OpenAI diz que grupo iraniano que usa ChatGPT tentou semear divisão antes da eleição dos EUA

A OpenAI diz que baniu um conjunto de contas do ChatGPT após encontrar evidências de que os usuários estavam vinculados a um grupo iraniano que tentava semear a divisão entre os eleitores dos EUA.

Em um declaração na sexta-feira, a OpenAI disse que descobriu artigos on-line e comentários de mídia social que foram criados com a ajuda do ChatGPT. O conteúdo não teve muito alcance — mas focou em uma série de questões divisivas, incluindo a eleição presidencial dos EUA, a guerra de Israel em Gaza e a presença de Israel nos Jogos Olímpicos. Os materiais gerados por IA atenderam tanto ao público progressista quanto ao conservador.

“Esta operação não parece ter alcançado engajamento significativo do público. A maioria das postagens de mídia social que identificamos recebeu poucas ou nenhuma curtida, compartilhamento ou comentário”, disse a OpenAI.

A investigação descobriu que artigos longos gerados por IA foram publicados em websites que se passavam por veículos de notícias. Enquanto isso, a OpenAI disse que as contas agora banidas compuseram comentários de mídia social — tanto em inglês quanto em espanhol — pedindo ao ChatGPT para reescrever comentários já postados por outros usuários de mídia social.

“Eles intercalavam seu conteúdo político com comentários sobre moda e beleza, possivelmente para parecerem mais autênticos ou em uma tentativa de conquistar seguidores”, disse a empresa.

A investigação interna da OpenAI ocorre uma semana após o relatório do Centro de Análise de Ameaças da Microsoft, que mostrou como grupos ligados ao governo iraniano estavam usando uma gama de táticas on-line na tentativa de interferir na eleição presidencial dos EUA.

Um dia após a Microsoft divulgar o relatório, a campanha presidencial de Donald Trump disse que foi hackeada e acusou atores iranianos de roubar documentos internos confidenciais. A campanha não forneceu evidências específicas. Na quarta-feira, o Google Menace Evaluation Group disse que detectado e interrompeu uma operação de phishing de hackers iranianos que tinha como alvo as campanhas de Trump e Biden-Harris.

Qual é o motivo por trás da operação ligada ao Irã?

A OpenAI disse que as contas estavam vinculadas a uma operação secreta conhecida como Storm-2035. Na semana passada, pesquisadores da Microsoft descobriram que o mesmo grupo estava por trás de quatro websites fingindo ser veículos de notícias americanos.

Os websites falsos amplificaram mensagens polarizadoras sobre questões polêmicas relacionadas aos direitos LGBTQ e ao conflito Israel-Hamas. O objetivo é incitar o caos e agitar a polarização entre os eleitores americanos antes do Dia da Eleição, de acordo com Clint Watts, gerente geral do Centro de Análise de Ameaças da Microsoft.

“O Irã está focado apenas em impedir que uma eleição ocorra”, disse Watts à NPR na semana passada.

Tanto a Microsoft quanto a OpenAI relataram que os websites e o conteúdo gerado pela IA não obtiveram muitas visualizações de página nem muito engajamento on-line.