Dezesseis sites que usavam inteligência artificial (IA) para criar imagens falsas de mulheres e garotas nuas estão sendo processados pelo procurador da cidade de São Francisco, David Chiu.
O processo, revelado nesta semana, alega que os sites violaram diversas leis estaduais contra práticas comerciais fraudulentas, pornografia não consensual e abuso sexual de crianças, conforme reportado pela Associated Press. Segundo o processo, esses sites receberam mais de 200 milhões de acessos somente no primeiro semestre de 2024.
Essas ferramentas permitiam que os usuários carregassem imagens de pessoas reais, para que os sites usassem IA para criar fotos realistas delas nuas.
“A proliferação dessas imagens explorou um número chocante de mulheres e meninas em todo o mundo. Essas imagens são usadas para intimidar, humilhar e ameaçar mulheres e meninas. E o impacto nas vítimas tem sido devastador em sua reputação, saúde mental, perda de autonomia e, em alguns casos, fazendo com que algumas se tornem suicidas.”
– David Chiu, procurador de São Franciso.
Uma das dificuldades do processo será identificar quem administra esses sites. No entanto, segundo o procurador, as autoridades utilizarão ferramentas investigativas, além de poderes judiciais, para localizar os envolvidos.
Além disso, como observou o procurador-adjunto da cidade, Karun Tilak, em coletiva de imprensa, ainda não se sabe quais softwares de IA estão sendo usados para criar essas imagens. Ele observou que versões antigas de programas como o Stable Diffusion, que não tinham proteções contra a geração de imagens envolvendo nudez, podem criar esses conteúdos.
O processo surge em um momento em que diversos casos evidenciam os efeitos negativos do uso inadequado da IA na criação de pornografia não consensual. Um dos exemplos que mais chamou a atenção envolveu Taylor Swift, no início deste ano, quando surgiram diversas imagens falsas da cantora nua no X (antigo Twitter).
Outros incidentes envolveram menores de idade. Em março, cinco alunos do oitavo ano da escola Beverly Hills (EUA) foram expulsos após gerarem e compartilharem deepfakes nus de colegas de classe.
Com informações de Associated Press e San Francisco Chronicle.
FIQUE POR DENTRO!
Jornalista em formação pela Universidade Metodista de São Paulo (UMESP). Escreve sobre tecnologia, games e ciência desde 2022. Tem experiência com hard news, mas também produziu artigos, reportagens, reviews e tutoriais.
