A Indonésia anunciou neste sábado (10) a suspensão temporária do Grok, o assistente de inteligência artificial da plataforma X de Elon Musk, após um escândalo envolvendo imagens pornográficas falsas de pessoas reais. Esses conteúdos, criados pela IA a pedido de usuários por meio de fotos ou vídeos, provocaram protestos em todo o mundo.
“Para proteger mulheres, crianças e o público dos riscos de conteúdo pornográfico falso gerado por meio de tecnologia de inteligência artificial, o governo bloqueou temporariamente o acesso ao aplicativo Grok”, disse a ministra da Comunicação e Assuntos Digitais, Meutya Hafid.
“O governo considera as práticas de deepfake não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, enfatizou o ministério, acrescentando que convocou representantes da empresa para prestarem esclarecimentos sobre o assunto.
Questionado no X por inúmeros usuários indignados, Grok respondeu na sexta-feira (9) que a geração e edição de imagens estavam “atualmente reservadas para assinantes pagantes”. “Você pode assinar para desbloquear esses recursos”, informou a IA.
Reino Unido e UE também reagem
A desativação limitada também gerou indignação no governo do Reino Unido, um dos críticos mais ferrenhos de Elon Musk. Essa medida “simplesmente transforma um recurso que permite a criação de imagens ilegais em um serviço premium” e constitui “um insulto às vítimas de misoginia e violência sexual”, denunciou um porta-voz do primeiro-ministro britânico, Keir Starmer.
Em Bruxelas, a Comissão Europeia “tomou nota das últimas alterações”, mas as considerou insuficientes. Na quinta-feira (8), a entidade já havia anunciado a imposição de uma medida cautelar ao X após o escândalo relacionado às imagens sexualmente explícitas de menores geradas pelo Grok.
“Com ou sem assinatura paga, isso não muda nosso problema fundamental: simplesmente não queremos ver essas imagens”, declarou Thomas Régnier, porta-voz da Comissão Europeia para Assuntos Digitais.
“O que pedimos às plataformas é que garantam que seu design e sistemas não permitam a geração desse conteúdo ilegal”, acrescentou.
O ministro da Economia francês, Roland Lescure, endossou o discurso de que as alterações são insuficientes e reiterou que o país “tomou medidas legais e continuará exigindo que as plataformas respeitem nossas leis se quiserem se beneficiar do nosso mercado”. “As ações da França e da Europa estão surtindo efeito: o X está restringindo o uso do Grok. Este é um primeiro passo, mas a luta contra o uso indevido da IA deve continuar”, escreveu Lescure, no Bluesky.
No início de dezembro, em outro episódio envolvendo o X, a UE multou a empresa de Musk em € 120 milhões (R$ 753 milhões na cotação atual) por descumprir a Lei de Serviços Digitais (DSA, na sigla em inglês).
Com AFP