Plataforma de inteligência artificial Grok está integrada à rede social X, do empresário Elon Musk (Foto: Reprodução/Getty Images | Composição: Klin Gean/CENARIUM)
11 de janeiro de 2026
Maria Peres – Da Cenarium
BRASÍLIA (DF) – Desenvolvida pela empresa xAI, do empresárioElon Musk, a plataforma de inteligência artificial Grok, integrada à rede social X, passou a ser alvo de restrições internacionais após a circulação de imagens sexualizadas de mulheres e, em alguns casos, de crianças, geradas ou editadas pela ferramenta. Nesse sábado, 10, a Indonésia anunciou o bloqueio do acesso ao sistema no país, alegando violação às leis locais sobre conteúdo pornográfico e proteção de menores.
O Grok é um sistema de inteligência artificial multimodal, ou seja, capaz de processar texto e imagem. A ferramenta funciona a partir de modelos de linguagem de grande escala (LLMs) combinados com modelos de geração de imagens. Na prática, o usuário fornece um comando em linguagem natural, conhecido como prompt, e o sistema interpreta essa descrição para produzir ou modificar imagens de forma automática.
Entre as funcionalidades disponibilizadas estão a criação de imagens do zero e a edição de fotografias enviadas pelos próprios usuários. Nessas edições, o sistema consegue alterar roupas, cenários e características corporais, com resultados visuais realistas. Esse tipo de processamento ocorre por meio de redes neurais treinadas com grandes volumes de dados visuais e textuais, que aprendem padrões de forma, textura e proporção.
De acordo com autoridades indonésias, usuários passaram a explorar essas capacidades para remover roupas de mulheres em imagens reais ou gerar representações sexualizadas sem consentimento. O governo avaliou que o conteúdo produzido violava normas nacionais sobre moralidade, direitos humanos e segurança digital, o que levou ao bloqueio da ferramenta no país.
Após a decisão da Indonésia, outros governos e órgãos reguladores passaram a acompanhar o funcionamento do Grok. Investigações e notificações formais foram abertas em países da Ásia e da Europa, com foco no cumprimento de legislações locais sobre pornografia, proteção de dados e exploração sexual infantil. Em resposta, a xAI anunciou ajustes operacionais, incluindo a limitação do acesso a determinadas funções apenas para usuários pagantes da plataforma X.
Reino Unido reage
O Reino Unido passou a integrar a controvérsia envolvendo o Grok após autoridades britânicas sinalizarem possíveis sanções à rede social X em razão da circulação de imagens manipuladas produzidas pela ferramenta de inteligência artificial. Em resposta, Elon Musk classificou a medida como uma tentativa de censura.
Em publicação feita na sexta-feira, 9, Musk compartilhou um conteúdo que compara o desempenho do Grok com outros sistemas de IA generativa, como o ChatGPT, da OpenAI, e o Gemini, do Google, todos submetidos ao mesmo tipo de comando para geração de imagens.
No material divulgado por Musk, os resultados apresentados pelas três ferramentas são semelhantes, segundo o próprio empresário. Ao comentar a publicação, Musk afirmou que o governo britânico estaria direcionando críticas apenas ao X, sem adotar o mesmo rigor em relação a outras plataformas que utilizam tecnologias equivalentes, sustentando que a responsabilidade pelo uso indevido recai sobre os usuários e não sobre as ferramentas em si.
Limites da IA
Especialistas apontam que sistemas como o Grok operam com base em probabilidades estatísticas, sem compreensão moral ou contextual do conteúdo que produzem. Isso significa que, se não houver barreiras técnicas eficazes, a IA tende a executar comandos conforme solicitado, desde que estejam dentro dos parâmetros permitidos pelo sistema.
Em artigo publicado na Folha de S.Paulo, a advogada, escritora e dramaturga Becky S. Korich afirma que o avanço acelerado da inteligência artificial tem ocorrido sem o acompanhamento necessário de marcos éticos, legais e educacionais. Segundo ela, a assimetria entre o desenvolvimento tecnológico e a capacidade de regulação cria um ambiente em que ferramentas digitais passam a ser usadas de forma inadequada, inclusive para a produção de conteúdos que violam limites sociais e legais.
“A tecnologia avançou muito mais rápido do que a ética, a legislação e a educação digital. A inteligência artificial dá saltos impressionantes, mas nossa capacidade de impor limites éticos parece em queda livre. Em vez de usar o avanço para proteger, educar e restringir abusos, permitimos que ele sirva exatamente ao contrário, normalizando o que deveria nos envergonhar”, afirma Korich.
Leia mais: Elon Musk diz que filha ‘morreu’ após transição de gênero