A deputada federal Erika Hilton (Psol-SP) acionou a Agência Nacional de Proteção de Dados e entrou com uma representação no Ministério Público Federal (MPF) contra a ferramenta de inteligência artificial Grok, integrada ao X (antigo Twitter), por gerar e publicar abertamente “imagens eróticas de mulheres e crianças reais”, sem consentimento. Na rede social, o perfil da ferramenta reconheceu “lapsos” que permitiram a geração de imagens inadequadas.
- Leia também: União Europeia condena o Grok, chatbot de Musk, por imagens sexualizadas de menores de idade
- ‘Cheio de roxo no corpo, sem óculos, sem bota’: jovem grava 1º vídeo após ser encontrado vivo no Pico Paraná
A inteligência artificial, que funciona como um chatbot capaz de responder a comandos dos usuários e gerar textos e imagens, passou a atender a pedidos de alteração em fotos de pessoas, como inserir biquínis, deixar roupas transparentes, mudar ângulos para tornar as imagens sugestivas e até adicionar objetos sexuais nas mãos e nos corpos.
Em publicação nas redes sociais, Hilton afirmou que a ferramenta está “ultrapassando todos os limites” ao distribuir em massa “pornografia infantil” por meio da inteligência artificial. No texto, a deputada disse ainda que solicitou a desativação do Grok e de todas as funções de IA da plataforma em território nacional “até que tudo seja devidamente investigado”.
Na representação enviada ao MPF, a deputada cita casos anteriores de deepfakes pornográficos, como os que atingiram a cantora Taylor Swift. Ela também menciona um pedido de desculpas feito pelo Grok em 28 de dezembro de 2025, no qual a ferramenta admitiu violar “padrões éticos e potencialmente leis americanas sobre abuso sexual infantil online”.
Hilton argumenta que, apesar da ampla repercussão do caso e do “reconhecimento dessas falhas”, a funcionalidade permanece “ativa e acessível”, mesmo diante de alertas “sobre os riscos envolvendo a exploração sexual de crianças e adolescentes”.
Segundo ela, tais práticas “evidenciam um padrão recorrente de uso abusivo da ferramenta, marcado pela violação da imagem, da dignidade e da privacidade de mulheres, revelando um ambiente digital permissivo à sexualização não consentida e à violência psicológica e digital contra mulheres”.
Questionado por usuários sobre a geração das imagens, o perfil do Grok respondeu que “reconhece lapsos nas salvaguardas” que permitiram a criação de conteúdos “inadequados, incluindo de menores”. A ferramenta afirmou estar corrigindo a situação com “urgência” e destacou que “conteúdo de abuso infantil é ilegal e proibido” nos termos da rede.
Apesar disso, o perfil continua gerando imagens de cunho erótico na plataforma a pedido dos usuários. Ao acessar as respostas publicadas pelo Grok, é possível encontrar centenas de fotos alteradas de forma não consensual.
*Estagiária sob supervisão de Daniela Dariano