A deputada federal Erika Hilton apresentou denúncia contra a rede social X e contra a ferramenta de inteligência artificial Grok, ligada ao empresário Elon Musk, ao Ministério Público Federal e à Agência Nacional de Proteção de Dados. A parlamentar afirma que a plataforma viola o direito de imagem e a proteção de dados pessoais ao permitir a manipulação de fotografias sem autorização das pessoas retratadas.
Segundo a deputada, o Grok altera imagens publicadas por usuários mediante simples comandos, sem qualquer verificação de consentimento, idade ou titularidade das fotos. No X, tornou-se recorrente o pedido para que a ferramenta remova roupas de imagens de terceiros, prática executada automaticamente pela inteligência artificial. O resultado são fotografias adulteradas, inclusive de crianças, em situações de conotação sexual, configurando deepfakes.
“Estou denunciando a inteligência artificial ‘Grok’ e a rede social X ao MPF e à Agência Nacional de Proteção de Dados. O motivo? Ambas estão gerando e publicando abertamente imagens eróticas de mulheres e crianças reais, sem consentimento algum. Basta um usuário pedir ao Grok, que a inteligência artificial integrada ao X alterará digitalmente qualquer foto publicada”, escreveu a parlamentar em rede social.
No documento encaminhado às autoridades, Erika Hilton sustenta que a ferramenta descumpre a Lei Geral de Proteção de Dados ao editar imagens de terceiros sem mecanismos de controle. Para ela, a ausência de filtros adequados abre espaço para a criação de deepfakes sexuais, prática utilizada para difamar mulheres, constranger figuras públicas e expor menores de idade a situações de violência digital.
A petição destaca ainda que a própria empresa reconheceu falhas na operação do Grok. Em trinta e um de dezembro, a conta oficial da ferramenta publicou pedido de desculpas após a geração de imagens sexualizadas envolvendo duas meninas menores de idade, episódio que reforçou as críticas sobre a ausência de salvaguardas mínimas.
Erika Hilton argumenta que a alegação de se tratar de conteúdo artificial não afasta a ilegalidade. “A configuração da pornografia infantil independe da forma de produção do conteúdo”, afirmou. Para a deputada, a tecnologia não pode ser utilizada como escudo para práticas criminosas nem para relativizar direitos fundamentais.
Na denúncia, a parlamentar solicita a abertura de investigação formal contra a rede social e a plataforma de inteligência artificial. Ela pede a suspensão imediata ou a imposição de restrições severas ao funcionamento do Grok, além da desativação da ferramenta em território nacional até a implementação de mecanismos eficazes de proteção. O pedido inclui a aplicação de multa diária de R$ 500 mil em caso de descumprimento das medidas determinadas.
Foto: Jessica Marschner / Câmara dos Deputados