O tema vem gerando polêmica. Nesta semana, o órgão regulador de mídia do Reino Unido (Ofcom, na sigla em inglês) iniciou uma investigação sobre oX, sob a Lei de Segurança Online. O objetivo da medida é determinar se a empresa cumpriu as suas obrigações de proteger os cidadãos britânicos de conteúdos ilegais no país.
“As notícias de que o Grok está sendo usado para criar e compartilhar imagens íntimas ilegais sem consentimento e material de abuso sexual infantil no X são profundamente preocupantes”, afirmou um porta-voz do Ofcom em um comunicado oficial publicado no site do órgão. De acordo com o texto, a autoridade fiscalizadora não hesitará em investigar casos de empresas que não estejam cumprindo sua obrigação de proteger cidadãos britânicos de conteúdos ilegais.
No final de semana passado, Malásia e Indonésia se tornaram os dois primeiros países a proibir acesso ao Grok, por motivos semelhantes.
“O governo considera os deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, afirmou o ministro das Comunicações e Assuntos Digitais da Indonésia, Meutya Hafid, em comunicado divulgado no sábado.
Questionado sobre a investigação, o X replicou uma declaração anterior na qual afirmava tomar medidas contra esse tipo de uso da ferramenta Grok. Segundo a afirmação prévia, o material de abuso sexual infantil e as imagens íntimas criadas sem consentimento são removidas da plataforma e as contas que as fizeram são permanentemente banidas. “Qualquer pessoa que utilize ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que quem fizer o upload de conteúdo ilegal”, afirmou a rede social.
Musk publicou uma mensagem na plataforma no sábado 10 dizendo que, ao focar no Grok e no X, o governo britânico “simplesmente quer suprimir a liberdade de expressão”.
No entanto, a ministra da Tecnologia, Liz Kendall, afirmou que não se tratava disso. Ela anunciou nesta semana, durante uma sessão no Parlamento inglês, que uma nova lei que proíbe a criação de imagens íntimas sem consentimento entrará em vigor. Na ocasião, ela também informou que quer tornar ilegal a disponibilização de ferramentas projetadas para criar deepfakes nas redes sociais.
“Trata-se de defender os valores britânicos básicos de decência e respeito, de garantir que os padrões que esperamos fora da internet sejam mantidos online e de exercer nosso poder soberano”, disse ela aos legisladores.
Segundo a legislação, as plataformas tecnológicas devem impedir que os usuários britânicos se deparem com conteúdo ilegal online. Além disso, a remoção desse tipo de publicação é de obrigação dessas empresas.
Após as ações iniciais contra sites pornográficos que não possuíam uma ferramenta eficaz de verificação de idade, o caso Grok provavelmente será o primeiro grande teste da Lei de Segurança Online do Reino Unido. A norma, que foi promulgada em 2023, vem sendo implementada em etapas pela Ofcom.