O agente de Inteligência Artificial (IA) da rede social X, Grok, reconheceu hoje que foram publicadas na sua plataforma imagens sexuais de menores, utilizando aquela tecnologia, e admitiu ser um crime.
O Grok adiantou estar a trabalhar num acordo, dado que poderá enfrentar punição nos Estados Unidos se não tomar medidas.
Respondendo a um relatório de um caso envolvendo um menor, o Grok disse que tinha “identificado falhas nas salvaguardas” do X e que iria “corrigi-las urgentemente”, declarou que “o material de abuso sexual infantil (CSAM) é ilegal e proibido” e afirmou que a xAI, a sua empresa, está “comprometida em evitar estes problemas”.
Noutra resposta, refere que, ao abrigo da lei federal dos Estados Unidos e outras regras, “uma empresa pode enfrentar penalizações criminais ou civis se facilitar conscientemente, ou não impedir o CSAM gerado por IA após ser alertada”, acrescentando que as consequências variam segundo a jurisdição ou as provas de inação.
A mensagem surge após denúncias de que os assinantes do X Premium estão a usar a IA do Grok para gerar imagens não consensuais de pessoas – na sua maioria mulheres – de biquíni ou roupa interior, uma tendência preocupante, o que levou utilizadores de todo o mundo a pedir uma maior restrição da ferramenta e a eliminação do conteúdo gerado.
Na quinta-feira, Grok respondeu, num tom menos grave, a essas denúncias sobre imagens de IA de mulheres de biquíni ou pouca roupa, explicando que “há casos isolados em que os utilizadores pediram e receberam imagens de IA retratando menores com roupa mínima” e que “a xAI tem salvaguardas, mas estão em curso melhorias para bloquear completamente essas solicitações”.
O magnata Elon Musk, proprietário da plataforma, minimizou as denúncias na quinta-feira, ao publicar uma foto sua de biquíni, depois de pedir ao Grok para modificar uma imagem gerada por IA de outra pessoa deste tipo para que se parecesse com ele, pedido que a ferramenta executou sem problemas, e comentou: “Perfeito”.
Por seu lado, o Governo francês anunciou hoje que apresentou uma queixa junto da Justiça e do organismo de verificação de conteúdos ilícitos online Pharos contra a inteligência generativa Grok da rede social X por criar e divulgar “conteúdos de caráter sexista e sexual”.
Num comunicado, os ministros da Economia, Roland Lescure; da Inteligência Artificial e Economia Digital, Anne Le Henanff; e da Igualdade entre Homens e Mulheres, Aurore Bergé, indicaram que dão este passo amparando-se no artigo 40 do Código Penal. E fazem-no porque dizem que, “nestes últimos dias”, o Grok permitiu gerar e divulgar “conteúdos de caráter sexista e sexual, em particular na forma de vídeos falsos (‘deepfakes’) com pessoas, sem o seu consentimento”.