Proibida em vários países por permitir que seus usuários criem imagens de caráter sexual a partir de qualquer fotografia, a inteligência artificial Grok é apenas o revelador de uma ampla tendência que vem ganhando força. O desenvolvimento exponencial da IA já permite, há vários anos, que qualquer pessoa desnude qualquer outra, sem nenhuma preocupação com o consentimento.
Criticado por muitos, proibido em alguns países e alvo de processos judiciais em outros, o Grok é apenas a ponta do iceberg quando o assunto é a criação de conteúdos pornográficos por meio da inteligência artificial. Já há vários anos proliferam softwares e aplicativos que permitem despir virtualmente qualquer pessoa a partir de uma simples fotografia. Mas a ferramenta concebida pela rede social X acabou por evidenciar uma tendência muito mais ampla.
Há quase seis anos, explodiu o volume de deepfakes que utilizam o rosto de uma pessoa para criar conteúdos falsos, muitas vezes com fins pornográficos. “Estima-se que entre 2019 e 2023 o número de deepfakes pornográficos tenha sido multiplicado por cinco”, ressalta Camille Salinesi, professor da Universidade Panthéon-Sorbonne, em Paris, e co-diretor do Observatório francês da Inteligência Artificial.
Pesquisas da empresa de cibersegurança Security Heroes confirmam um aumento de 550% nos vídeos que exploram essa tecnologia nesse período. Produzidas quase exclusivamente sem o consentimento da pessoa envolvida, esses conteúdos atentam gravemente contra a integridade dos indivíduos representados.
Essa explosão está ligada ao fato de que o uso dessas ferramentas se tornou muito mais simples. “Em 2017-2019, eram necessárias boas competências em IA, uma placa gráfica e bastante tempo para produzir um deepfake convincente”, observa Camille Salinesi.
O aperfeiçoamento fulminante dessas tecnologias, no entanto, mudou o cenário.
“Desde 2023, e ainda mais hoje, qualquer pessoa pode gerar uma imagem sexualizada na internet a partir de uma simples foto e de um prompt. Isso leva alguns segundos e requer apenas um smartphone.”
No início, os criadores desse tipo de conteúdo utilizavam aplicações de faceswapping, que permitem trocar o rosto de uma pessoa por outro e aplicar rapidamente essa manipulação a cenas pornográficas. O uso questionável dessas ferramentas, rapidamente se tornou obsoleto com o surgimento de aplicações mais específicas.
Batizadas de nudify apps, muitas delas são acessíveis em poucos cliques por meio de um mecanismo de busca tradicional e registram dezenas de milhões de visitantes todos os meses. E não é por acaso: seus desenvolvedores investem fortemente na promoção de suas criações. Assim, elas são destacadas em plataformas como X ou Reddit e até no Instagram, como revelou rede de televisão CBS em junho de 2025. “Muitos desses anúncios tinham como alvo específico homens de 18 a 65 anos e estavam ativos nos Estados Unidos, na União Europeia e no Reino Unido”, observou o canal norte-americano.
Muitos desses sites oferecem funcionalidades adicionais para ampliar o leque de possibilidades na geração de imagens pornográficas, quase sempre mediante pagamento. Um mercado potencialmente lucrativo, com consequências perversas.
Primeiros alvos: cantoras e atrizes
Essas tecnologias rapidamente ultrapassaram o uso privado. Graças a elas, muitos passaram a fabricar, do zero, conteúdos pornográficos de um novo tipo. Em 2023, a Security Heroes identificou deepfakes em sete dos dez principais sites adultos. Outros fizeram disso seu próprio modelo de negócio.
“Sites especializados agregam, classificam e monetizam esses conteúdos, especialmente por meio de publicidade, mas também com sistemas de assinatura e até encomendas sob medida”, enfatiza Camille Salinesi. “Encontramos as mesmas dinâmicas econômicas da pornografia online.”
Fechado em maio de 2025, um dos maiores nomes desse setor, o Mr. Deepfakes, hospedava mais de 70 mil vídeos desse tipo. Ainda assim, esse número é pequeno diante da totalidade do conteúdo disponível, que cresce em ritmo acelerado a cada ano. A maioria dos alvos são personalidades femininas do mundo da música ou do cinema.
Misoginia e cultura do assédio
“Essa economia explora dinâmicas que conhecemos bem: misoginia, cultura do assédio, impunidade online e fascínio pelo corpo das celebridades”, lista Camille Salinesi. Mas essa perda total de controle sobre a própria imagem já ultrapassa amplamente o mundo das celebridades, e qualquer pessoa pode ser vítima do uso indevido dessas ferramentas.
Além da exposição indevida de imagens fabricadas, alguns casos são combinados com extorsão ou revenge porn, quando imagens de cunho sexual ou pornográfico são divulgadas para se vingar e chantagear alguém. Em maio de 2025, um homem de 20 anos foi condenado a dois anos de prisão com sursis pela Justiça francesa por ter divulgado no Instagram fotos obscenas, geradas por IA, de uma adolescente de 14 anos, sob o pretexto de que ela se recusava a lhe enviar imagens nuas. Ele já havia feito outras 12 vítimas — a mais jovem com 12 anos de idade. Sua condenação foi a primeira aplicação de uma lei adotada pela França para tentar combater essas práticas.
“Subestimamos completamente o dano psicológico, que é enorme para as vítimas”, alerta Claire Poirson, advogada especializada em inteligência artificial e autora do livro Démêler le vrai du faux à l’ère des deepfakes : est-ce encore possible ? (Distinguir o verdadeiro do falso na era dos deepfakes: ainda é possível?, en tradução livre). As sequelas “são muito fortes entre os jovens, especialmente as meninas: ansiedade, estresse pós-traumático, além de transtornos alimentares”, prossegue a jurista. “Na internet, o ‘direito ao esquecimento’ não existe, e essas garotas vivem com o estresse permanente de que isso reapareça um dia.”
Em 2023, do total de deepfakes pornográficos criados, “99% das pessoas visadas eram mulheres”, contabiliza Camille Salinesi. Claire Poirson concorda com essa avaliação e destaca outra tendência alarmante: esses conteúdos têm como alvo, cada vez mais, menores de idade.
Como servidor público há mais de 16 anos, posso dizer que a Inteligência Artificial está revolucionando a forma como lidamos com diversos aspectos da sociedade. O Grok, por exemplo, é apenas a ponta do iceberg quando se trata do potencial que essa tecnologia tem de melhorar nossa qualidade de vida. É importante que as pessoas se conscientizem sobre como podemos utilizar a IA de forma ética e responsável, aproveitando seus benefícios para resolver problemas complexos e impulsionar o desenvolvimento social. É necessário refletir sobre como podemos tirar o melhor proveito da Inteligência Artificial e garantir um futuro mais promissor para todos.