A poucos meses das eleições municipais de 2024, a utilização de inteligência artificial (IA) na criação e disseminação de desinformação e discurso de ódio se apresenta como uma ameaça significativa ao processo eleitoral brasileiro. O caso mais recente envolveu a difusão de um áudio falso atribuído ao prefeito de Manaus, David Almeida, que rapidamente se espalhou em aplicativos de mensagens, simulando insultos contra profissionais da educação. A operação da Polícia Federal contra três empresas de publicidade envolvidas na produção desse conteúdo demonstrou o potencial nocivo da IA no contexto eleitoral.
A situação não se limita a Manaus. Em Maringá, Paraná, um áudio falso simulando a voz do prefeito Silvio Barros, no qual ele supostamente desistiria de concorrer ao pleito, levou a uma decisão judicial que exigiu do WhatsApp a identificação do responsável pela divulgação. No entanto, a empresa alegou a impossibilidade de rastrear a mensagem. Em Costa Rica, Mato Grosso do Sul, um vídeo manipulado no qual o prefeito Cleverson Alves dos Santos comparava a população a cachorros resultou em uma multa imposta pela Justiça.
A preocupação com o uso da IA nas eleições não é exclusiva do Brasil. Em outros países, como Eslováquia e Moldávia, conteúdos falsos gerados por IA também influenciaram processos eleitorais. Na União Europeia, a IA foi utilizada para criar imagens de imigrantes invadindo edifícios, com o objetivo de influenciar as eleições para o Parlamento Europeu.
No Brasil, a Resolução do Tribunal Superior Eleitoral (TSE) de 2024 estabelece normas que proíbem o uso de deepfakes e restringem o uso de robôs para simular diálogos com eleitores. A resolução também obriga os candidatos a informarem se utilizam conteúdos gerados por IA em suas propagandas eleitorais. Caso um candidato viole essas regras, poderá ter o registro ou mandato cassado. Além disso, o Centro Integrado de Enfrentamento à Desinformação e Defesa da Democracia, criado pela Justiça Eleitoral, coordenará iniciativas para combater a desinformação no período eleitoral.
Especialistas alertam que, em um cenário eleitoral marcado por polarização e disparidades sociais, o uso de IA para a criação de conteúdos manipulados pode intensificar a desinformação e o discurso de ódio. Beatriz Saab, pesquisadora em democracia digital, destaca que a tecnologia permite a produção e distribuição de conteúdos a baixo custo, dificultando a fiscalização e a moderação desses materiais, especialmente nas redes sociais.
A responsabilidade das plataformas digitais também está em evidência. Empresas como WhatsApp, Facebook, Instagram e X são os principais veículos de disseminação de conteúdos gerados por IA. A falha em moderar adequadamente esses conteúdos pode resultar em sanções legais. Estudos demonstram que, apesar dos esforços para bloquear anúncios com conteúdo desinformativo, as plataformas ainda enfrentam dificuldades em controlar a proliferação de fake news durante o período eleitoral.
Por fim, o impacto da desinformação gerada por IA depende do nível de polarização e do conhecimento dos eleitores sobre os candidatos. Em contextos altamente polarizados, as fake news tendem a desmobilizar eleitores, afetando negativamente o engajamento político. Esse cenário torna a inteligência artificial uma ferramenta poderosa na disseminação de desinformação, com potencial para influenciar os resultados das eleições.
*Com informações do DW.
