O Grok, chatbot de inteligência artificial ( IA) de Elon Musk, continua sendo capaz de despir mulheres e crianças mesmo após a xAI anunciar na semana passada que havia implementado travas de segurança na ferramenta. Desde o começo do mês, a companhia vem enfrentando pressão global por permitir a criação de “nudes digitais” sem consentimento por meio de IA, mas ainda é possível obter o resultados que deveriam estar barrados do serviço.
Na quarta-feira (14), a companhia afirmou: “Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais em trajes reveladores, como biquínis.” No entanto, o GLOBO conseguiu obter resultados do tipo no aplicativo independente do serviço. O Grok é altamente integrado ao X e era possível despir pessoas em qualquer post da rede social, mas ele funciona também como um app para iOS e Android, que opera de forma parecida com o ChatGPT, da OpenAI — para usar o app é obrigatório ter uma conta do X vinculada.
Revolta do Roblox: Geração Alpha transforma dinâmicas de game, memes e avatares em táticas de protesto no mundo virtual
Para realizar o teste, a reportagem gerou imagens de mulheres e crianças em trajes de trabalho e escola por meio de ferramentas de IA de outras empresas, como ChatGPT e Gemini, do Google. A ideia era não expor pessoas reais ao trabalho de edição do Grok. Na sequência, as imagens foram carregadas na versão mais recente do app do Grok para iOS e, por meio de alguns prompts, foi possível colocar biquíni e lingerie nas mulheres.
No caso, de crianças a ferramenta se recusou a fazer a troca na maior parte do tempo, mas em um dos casos foi possível colocar trajes de banho, que revelavam mais do que havia na imagem original. A reportagem realizou o mesmo experimento no ChatGPT e no Gemini, mas as ferramentas bloquearam os resultados. A reportagem tenta fazer contato com a xAI para comentar os resultados, mas ainda não teve sucesso.
Fóruns, como o Reddit, e redes sociais, como o TikTok, abrigam dicas de como gerar fotos sugestivas de mulheres em ferramentas de IA — em dezembro, a revista “Wired” encontrou no Reddit dicas de como despir mulheres reais, que, posteriormente, foram derrubadas.
No Brasil, é proibido produzir, fotografar, filmar ou registrar, por qualquer meio, conteúdo com cena de nudez ou ato sexual ou libidinoso de caráter íntimo e privado sem autorização dos participantes, segundo artigo 216-B do Código Penal. Ele prevê detenção de seis meses a um ano e multa.
Mas há um agravante, como explica Renato Opice Blum, coordenador de inovação e de IA na Comissão de Inovação de IA da OAB/ SP.
— Quando falamos em divulgação deste material, vamos para o artigo 218-C, que tem pena de quatro a 10 anos, além de multa — diz ele.
/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2026/5/0/Jdf1GYQCCmFpqO28BqBw/2026-01-19-16-11-23-documento-sem-titulo-google-docs.png "Aplicativo Grok, de Elon Musk, é criticado por violar privacidade de mulheres e crianças mesmo após promessa de restrições 2")
Nudez digital não consentida no mainstream
O Grok não é a primeira ferramenta de IA capaz de editar fotos de pessoas reais para gerar imagens sexualizadas ou sugestivas sem consentimento. Porém, a ferramenta de Musk é acusada de popularizar a prática.
Segundo uma análise da ONG AI Forensics com mais de 20 mil imagens geradas pelo Grok, mais da metade das imagens representavam pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam menores.
Um levantamento da consultoria Genevieve entre 5 e 6 de janeiro mostrou que, em 24 horas, o Grok gerou 6,7 mil imagens por hora identificadas como sexualmente sugestivas ou que envolviam nudez. Os outros cinco principais sites de geração de imagens por IA criaram, em média, 79 novas imagens por hora no período de 24 horas. A Genevieve Oh calculou que, no total, 85% das imagens do Grok são sexualizada
A situação gerou investigação, restrição ou suspensão do serviço em diferentes países, como Indonésia, Malásia, União Europeia, Reino Unido, França e Índia. No Brasil, a deputada federal Erika Hilton (Psol-SP) acionou a Agência Nacional de Proteção de Dados e entrou com uma representação no Ministério Público Federal (MPF) contra a ferramenta. Já o Instituto de Defesa do Consumidores (Idec) apresentou na quarta-feira, 14, denúncia formal à Autoridade Nacional de Proteção de Dados (ANPD) e pediu a suspensão da ferramenta no país.
A denúncia argumenta que a ferramenta viola o Código de Defesa do Consumidor, Lei Geral de Proteção de Dados (LGPD), o Estatuto da Criança e do Adolescente (ECA) e o Marco Civil da Internet.
Inicialmente, o X limitou a geração e a edição de imagens apenas a usuários pagantes, mas, diante da pressão, ampliou as restrições, desativando a possibilidade de todos os usuários utilizarem o chatbot para criar imagens sexualizadas de pessoas reais.
No entanto, a companhia afirmou que os assinantes do serviço premium do X ainda podem usar o Grok para editar e criar outras imagens geradas por IA que “estejam em conformidade com os termos de serviço da plataforma”. A companhia também bloqueou o Grok de gerar “imagens de pessoas reais em biquínis, roupas íntimas e vestimentas semelhantes” em países onde isso é ilegal.
Na semana passada, o bilionário também afirmou: “Não tenho conhecimento de nenhuma imagem de nudez de menores gerada pelo Grok. Literalmente zero. Obviamente, o Grok não gera imagens espontaneamente; ele só o faz de acordo com solicitações dos usuários. Quando solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, pois o princípio operacional do Grok é obedecer às leis de qualquer país ou estado. Pode haver ocasiões em que ataques adversariais aos prompts do Grok provoquem algo inesperado. Se isso acontecer, corrigimos o bug imediatamente.”
O aplicativo Grok, desenvolvido por Elon Musk, tem causado polêmica ao “tirar a roupa” de mulheres e crianças, apesar do anúncio de restrições. Como servidor público há mais de 16 anos, ressalto a importância de refletirmos sobre os limites éticos e legais do uso de tecnologias como essa. É fundamental que a sociedade pense em como utilizar essas ferramentas de forma responsável e ética, visando o bem-estar e a segurança de todos. Cabe a cada um de nós tirar o melhor proveito do serviço prestado pelo Grok, levando em consideração as possíveis consequências e impactos negativos. Que cada indivíduo tire suas próprias conclusões sobre o assunto, buscando sempre o melhor para a sociedade como um todo.