OpenAI elimina contas iranianas usando ChatGPT para escrever desinformação sobre as eleições dos EUA

A OpenAI baniu contas do ChatGPT vinculadas a uma equipe iraniana suspeita de espalhar notícias falsas em sites de mídia social sobre a próxima campanha presidencial dos EUA.

As contas, segundo nos disseram, usaram o ChatGPT para gerar artigos longos para compartilhar em plataformas de mídia social, bem como comentários sociais curtos sobre os dois candidatos que concorrem ao mais alto cargo dos Estados Unidos: a democrata Kamala Harris e o republicano Donald Trump.

Apesar de ter sido publicada em vários sites, a operação de influência “não parece ter alcançado um engajamento significativo do público”, de acordo com um alerta de sexta-feira.

A OpenAI atribuiu as postagens falsas ao Storm-2035, um grupo apoiado por Teerã e que a Microsoft também soou o alarme sobre a semana passada, quando ele e outros grupos iranianos continuaram a interferir nas eleições — alguns deles tentando incitar a violência.

Mais tarde na semana passada, os caçadores de ameaças do Google publicado informações sobre a atividade de influência cibernética do Irã após um aumento recente nos ataques que levaram ao vazamento de dados da campanha de reeleição de Trump.

No total, a organização de IA diz ter identificado 12 contas no X e uma no Instagram envolvidas nessa operação de influência secreta. Além da eleição presidencial dos EUA, as notícias e comentários inventados também cobriram o conflito em Gaza e a participação de Israel nas Olimpíadas, bem como outros tópicos politicamente carregados.

“O primeiro fluxo de trabalho produziu artigos sobre política dos EUA e eventos globais, publicados em cinco sites que se apresentavam como veículos de notícias progressistas e conservadores”, disse a OpenAI na sexta-feira. “O segundo fluxo de trabalho criou comentários curtos em inglês e espanhol, que foram postados nas mídias sociais.”

Os cinco domínios são:

• niopensador[.]com
• botão de savana[.]com
• até mesmo política[.]com
• teorizador[.]com
• sol das terras ocidentais[.]com

Storm-2035, e pelo menos um de seus sites de notícias falsas, EvenPolitics, estão ativos online desde as eleições de meio de mandato dos EUA em 2022, publicando cerca de 10 “artigos” por semana. Embora sejam escritos em inglês, o grupo também tem outros sites de operação de influência em árabe, inglês, francês e espanhol.

Com base em Brookings’ Escala de Breakoutque classifica a eficácia desses tipos de operações secretas em uma escala de 1 (mais baixa) a 6 (mais alta), Storm-2035 recebeu apenas 2, o que significa que estava ativo em várias plataformas, mas não mostrou nenhuma evidência real de ter sido detectado ou amplamente disseminado por pessoas reais.

“A maioria das postagens de mídia social que identificamos recebeu poucas ou nenhuma curtida, compartilhamento ou comentário”, observou a OpenAI. “Da mesma forma, não encontramos indicações de que os artigos da web estavam sendo compartilhados nas mídias sociais.”

No início deste ano, a OpenAI desligar cinco contas que estavam sendo usadas por grupos apoiados pelo governo na China, Irã, Rússia e Coreia do Norte para gerar e-mails de phishing e scripts de software maliciosos. ®