Explorando deepfakes de biquíni com as ferramentas de IA do Google e OpenAI

Principais destaques:

• Investigações mostram que ferramentas de geração de imagens do Google e da OpenAI foram exploradas para criar deepfakes sexualizados sem consentimento.
• Comunidades online compartilharam instruções para burlar filtros de segurança, ampliando riscos para mulheres.
• Pressão regulatória cresce nos EUA e no Reino Unido para responsabilizar plataformas e coibir o abuso.

Ferramentas modernas de geração de imagens voltaram ao centro do debate após uma investigação da WIRED revelar como usuários conseguiram transformar fotos de mulheres totalmente vestidas em imagens de biquíni.

O caso expõe limites práticos da moderação em sistemas cada vez mais fotorrealistas e reacende discussões sobre consentimento, fiscalização e responsabilidade corporativa no uso de inteligência artificial.

Como as brechas foram exploradas

Segundo a apuração, usuários trocaram passo a passo em fóruns do Reddit para manipular o Gemini e o ChatGPT Images. Em testes limitados, comandos simples em inglês teriam sido suficientes para contornar salvaguardas.

Após a denúncia, conteúdos foram removidos e comunidades envolvidas acabaram banidas, mas o episódio evidenciou a velocidade com que métodos de evasão se espalham.

Respostas das empresas e limites da moderação

O Google afirma manter políticas claras contra conteúdo sexualmente explícito e diz aprimorar continuamente seus sistemas. A OpenAI reforça que suas regras proíbem alterar a aparência de alguém sem consentimento e que aplica sanções a quem viola as diretrizes.

Ainda assim, o avanço das capacidades de edição e realismo desafia os mecanismos de detecção, especialmente após atualizações recentes que ampliaram o poder criativo das plataformas.

Impacto social e pressão por leis mais duras

Organizações de direitos digitais alertam para danos reais. A Electronic Frontier Foundation, por meio de sua diretora jurídica Corynne McSherry, classifica imagens abusivamente sexualizadas como um risco central da IA generativa.

Nos EUA, parlamentares como Celeste Maloy e Jake Auchincloss apresentaram propostas para retirar proteções legais de plataformas que não removerem deepfakes não consensuais após denúncia.

No Reino Unido, a secretária de Tecnologia Liz Kendall anunciou medidas para criminalizar até a criação desse tipo de material, sinalizando uma abordagem mais rígida.