Perigo: Inteligência Artificial vira arma de grupos extremistas para promover ataques

Por /

Por

Redação O Sul

| 12 de agosto de 2024

Ataque matou três crianças e feriu gravemente dois adultos em Southport, no Reino Unido, no fim de julho. (Foto: Reprodução)

No mesmo dia que um ataque matou três crianças e feriu gravemente dois adultos em Southport, no Reino Unido, no fim de julho, uma conta no X com mais de 400 mil seguidores compartilhou uma imagem gerada por Inteligência Artificial (IA) em que homens com vestes muçulmanas e facas na mão correm atrás de um bebê. Até a última sexta-feira, a postagem, que tinha o Parlamento britânico ao fundo e a mensagem “precisamos proteger nossas crianças”, contava com 920 mil visualizações. O mesmo perfil, desde então, têm usado imagens geradas por IA para insuflar as manifestações violentas que varreram cidades britânicas nos últimos dias.

A tática de usar conteúdo gerado por IA tem sido cada vez mais comum por grupos extremistas que disseminam mensagens de ódio pela internet, desafiam o controle das plataformas e tentam angariar apoiadores com imagens, áudios e vídeos sintéticos que disseminam discursos violentos. Em um relatório de mais de 200 páginas, um grupo de pesquisadores americanos do Middle East Media Research Institute (Memri) mapeou este ano dezenas de exemplos de como a IA tem virado arma na mão dessas organizações.

Os casos vão desde músicas com vozes de artistas famosos, como de Taylor Swiftt, que pregam a violência contra pessoas negras, até imagens estereotipadas de judeus com teorias conspiratórias, que são disseminadas no Telegram e no X. A IA também é usada na clonagem de vozes de figuras políticas que destilam discursos supremacistas brancos ou neonazistas.

Em um dos casos documentados, o americano Rinaldo Nazzaro, ex-líder do grupo neonazista A Base, incluído no fim de julho à lista da União Europeia (UE) de organizações terroristas, compartilha em uma comunidade do Telegram prints de uma conversa com o ChatGPT, meses depois do lançamento do robô da OpenAI. Na conversa, estão respostas da IA sobre as redes de infraestrutura críticas dos EUA mais vulneráveis a ataques físicos, por exemplo.

Nas últimas semanas, imagens de IA que exaltam os protestos no Reino Unido contra imigrantes também passaram a circular entre os neonazistas monitorados pelo Memri.

“Os extremistas, desde os primórdios da internet, costumam ser usuários precoces de novas tecnologias. Eles rapidamente migram para essas plataformas, que oferecem novas maneiras de alcançar um público mais amplo. Com a IA não é diferente”, diz Simon Purdue, diretor do Monitor de Ameaças Terroristas Domésticas do Memri, um dos responsáveis pelo levantamento.

O pesquisador lembra que, além de explorar as vulnerabilidades de ferramentas populares de IA, como o Suno (de áudio) ou o MidJourney (de imagens), extremistas têm trabalhado na criação de sistemas customizados a partir de grandes modelos de linguagem, que funcionam como “cérebro” por trás das ferramentas. Outros usos incluem a criação de programas maliciosos e fabricação de explosivos.

“Os grupos extremistas podem criar os próprios modelos e utilizar de diferentes maneiras. Além da mais direta, que é gerar textos e postagens com o conteúdo adaptado ao seu discurso, há usos mais inovadores, como criar projetos de armas para impressoras 3D ou mesmo instruções para criação de bombas”, explica Fernando Ferreira, pesquisador do NetLab da UFRJ.

Geração de imagens estereotipadas e conspiratórias, tradução de discursos de líderes fascistas, criação de vídeos manipulados, clonagem de vozes e produção de deepfakes (conteúdos sintéticos que simulam imagem, voz ou vídeo de pessoas reais) estão entre os principais usos da IA por grupos neonazistas.

Nos últimos meses, além do Memri, outros grupos de pesquisa que monitoram a disseminação de discurso de ódio e violência online têm alertado para a apropriação da IA por essas organizações. As primeiras análises do grupo Tech Against Terrorism mapearam 5 mil peças de conteúdo criado por IA generativa compartilhadas por supremacistas brancos, mas também por membros de organizações terroristas como o Estado Islâmico (EI) e a al-Qaeda. As informações são do jornal O Globo.