A deputada Federal Erika Hilton protocolou representação no MPF – Ministério Público Federal contra o Grok e a plataforma X, antigo Twitter, em razão do funcionamento da ferramenta de inteligência artificial, apontando que a tecnologia permitiu a geração e edição automatizada de imagens sexualizadas de pessoas reais, inclusive crianças e adolescentes, sem consentimento.
O que é o Grok
O Grok é uma ferramenta de inteligência artificial integrada à plataforma X. O sistema funciona como um chatbot capaz de responder a comandos de usuários, gerar textos e editar imagens a partir de conteúdos publicados na própria rede social. A ferramenta utiliza modelos generativos de IA para interpretar pedidos e produzir resultados automatizados, incluindo alterações visuais em fotografias.
Erika Hilton pede a suspensão da IA Grok em todo o território nacional.(Imagem: Jarbas Oliveira/Folhapress)
Na petição, Erika Hilton sustentou que o Grok passou a editar imagens de terceiros a partir de fotografias publicadas na própria rede social, sem mecanismos eficazes de verificação de consentimento, idade ou finalidade legítima. Segundo a parlamentar, a ausência desses filtros teria viabilizado a produção e a circulação de deepfakes sexuais envolvendo tanto mulheres adultas quanto crianças e adolescentes.
O documento relatou que, em resposta a comandos de usuários, o chatbot Grok produziu deepfakes sexualizadas, eróticas e com conotação pornográfica de crianças e adolescentes reais. Ainda segundo a representação, mesmo após denúncias públicas, a funcionalidade permaneceu ativa, o que teria ampliado o alcance do material gerado pela inteligência artificial.
Além de situações envolvendo menores de idade, a petição descreveu episódios de sexualização não consentida de mulheres adultas. Um dos relatos apontou que usuários solicitaram ao Grok que “despisse digitalmente” uma fotografia publicada na plataforma, o que resultou na circulação de imagens geradas pela IA, mesmo após protestos da vítima.
Entre os pedidos formulados ao MPF, a deputada solicitou a instauração de procedimento investigatório, a suspensão imediata ou a imposição de restrições à funcionalidade do Grok, a apresentação de informações técnicas sobre filtros e mecanismos de proteção e a comunicação do caso à ANPD – Autoridade Nacional de Proteção de Dados.
A petição também requer a desativação da ferramenta em território nacional até a implementação de salvaguardas consideradas eficazes, com previsão de multa diária de R$ 500 mil em caso de descumprimento.
Direito à imagem e pornografia infantil
Em publicação na rede X, a deputada afirmou: “O direito à imagem é individual, não é transferível por meio dos “termos de uso” de uma rede social e a distribuição em massa de pornograf*a infant*l por uma inteligência artificial integrada a uma rede social ultrapassa todos os limites”.
Deputada Erika Hilton, no X.(Imagem: Reprodução/X)
A deputada Erika Hilton solicitou ao Ministério Público Federal a proibição do uso da tecnologia deepfake para criar conteúdos pornográficos de menores de idade. Essa iniciativa levanta importantes questões sobre os limites éticos do uso da Inteligência Artificial. O debate sobre como podemos fazer uso dessa tecnologia de forma responsável e respeitosa é fundamental para a construção de uma sociedade mais justa e ética. É essencial refletirmos sobre como podemos aproveitar os avanços da Inteligência Artificial para promover o bem-estar e a qualidade de vida de todos. Cabe a cada um de nós pensarmos em maneiras de utilizar essa tecnologia de forma positiva e construtiva.