A OpenAI disse na sexta-feira que capturou uma “operação de influência iraniana” usando ChatGPT. O grupo, conhecido como Storm-1679, gerou artigos e comentários nas redes sociais para moldar a opinião pública em torno da vice-presidente Kamala Harris e do ex-presidente Donald Trump, de acordo com OpenAI. Além de mirar nos candidatos presidenciais dos EUA em 2024, a OpenAI disse que a Storm-1679 também gerou conteúdo sobre a invasão de Gaza por Israel e sua presença nas Olimpíadas de 2024, os direitos das comunidades latinas baseadas nos EUA, a política venezuelana e a independência da Escócia do Reino Unido.
A maioria das postagens e artigos detectados pela OpenAI receberam pouca aceitação de pessoas reais, disse a empresa. Ainda assim, descreveu o incidente em detalhes em seu blogescrevendo que encontrou uma dúzia de contas X (antigo Twitter) se passando por conservadores e progressistas e usando hashtags como “#DumpTrump” e “#DumpKamala”. Storm-1679 também grampeou pelo menos uma conta do Instagram para espalhar conteúdo gerado por IA, de acordo com a OpenAI.
A OpenAI descreveu anteriormente “agentes de ameaças afiliados ao estado“usando suas ferramentas, mas esta é a primeira vez que é divulgada uma campanha específica de interferência eleitoral utilizando o ChatGPT.
A OpenAI disse que respondeu à descoberta banindo um “cluster” de contas que criaram o conteúdo; a empresa também disse que “compartilhou inteligência de ameaças com o governo, campanha e partes interessadas da indústria”. A empresa não nomeou essas partes interessadas especificamente, mas compartilhou capturas de tela de algumas das postagens. Essas capturas de tela apresentavam contagens de visualizações variando de 8 a 207 visualizações e quase nenhuma curtida.
A OpenAI disse que o Storm-1679 também compartilhou artigos gerados pelo ChatGPT em vários sites que “se passaram por veículos de notícias progressistas e conservadores”. A empresa acrescentou: “A maioria das postagens de mídia social que identificamos recebeu poucas ou nenhuma curtida, compartilhamento ou comentário. Da mesma forma, não encontramos indícios de que os artigos da web foram compartilhados em mídias sociais”.
Um Relatório de 6 de agosto da Microsoft descreveu a Storm-2035 de maneira semelhante — como uma rede iraniana com “quatro sites disfarçados de veículos de notícias”. De acordo com a Microsoft, a rede criou postagens “polarizadoras” sobre a eleição, direitos LGBTQIA+, bem como a invasão de Gaza por Israel.
Relatos de interferência estrangeira online nas eleições dos EUA são agora praticamente comuns. O relatório da Microsoft de 6 de agosto, por exemplo, também detalhou um ataque de phishing vinculado ao Irã que teve como alvo um funcionário de campanha dos EUA não identificado e de “alto escalão”. Pouco depois que a Microsoft divulgou o relatório, a campanha de Trump anunciou que “fontes estrangeiras” haviam roubado alguns de seus e-mails e documentos em uma tentativa de influenciar a eleição presidencial de 2024. Oito anos antes, um grupo de hackers vinculado à Rússia conhecido como Guccifer 2.0 fugiu com e-mails do Comitê Nacional Democrata por meio de um ataque de phishing; eles acabaram vazando milhares de e-mails e documentos do DNC antes da Convenção Nacional Democrata de 2016.
Sob pressão de legisladores, grandes empresas de tecnologia lançaram vários esforços ao longo dos anos em resposta a tais incidentes. Seus esforços incluem checagens de fatos de memes, pensamento positivo, uma proibição de anúncios políticos de curta duração, uma “sala de guerra” e colaborações com rivais e policiais.
