Movimento acontece após indignação internacional em torno da IA do aplicativo X gerar imagens de nudez a partir de fotos de pessoas reais
O Reino Unido anunciou nesta segunda-feira (16) um endurecimento legislativo para submeter os “chatbots” às normas de segurança online, após a polêmica em torno das imagens de caráter sexual geradas pelo Grok, assistente de inteligência artificial (IA) da rede social X.
“Nenhuma plataforma terá salvo-conduto”, afirmou o primeiro-ministro britânico, o trabalhista Keir Starmer, durante uma visita a um centro social em Londres, prometendo fechar “as brechas que colocam as crianças em perigo”.
O anúncio ocorre em meio a um movimento de indignação internacional em torno do Grok, que pode gerar imagens de nudez a partir de fotos de pessoas reais. A Ofcom, reguladora britânica de internet, abriu em 12 de janeiro uma investigação para determinar se o X, rede social de Elon Musk, descumpriu suas obrigações de moderação de conteúdos ilegais e de proteção de menores.
O regulador admitiu posteriormente a existência de uma brecha legal. Alguns ‘chatbots’ escapam à recente lei britânica de segurança online quando “permitem apenas interagir com a própria IA sem contato com outros usuários”.
“Não podemos agir contra danos online se não estiverem cobertos pela lei”, advertiu a Ofcom, cujo poder de sanção pode chegar a até 10% do faturamento mundial de uma empresa.
Para remediar a situação, o governo trabalhista prevê apresentar uma emenda para obrigar todos os ‘chatbots’ a proteger seus usuários contra conteúdos ilegais, segundo comunicado de Downing Street. O Executivo também planeja incluir em seu projeto de lei sobre o bem-estar infantil medidas para intervir “em questão de meses” se necessário diante das mudanças tecnológicas. “A tecnologia evolui muito rápido e a lei deve acompanhar o ritmo“, afirmou Starmer.
Esse reforço legislativo rompe com a postura mais aberta que o líder trabalhista havia adotado em janeiro de 2025, quando expressou sua ambição de transformar o país em um laboratório para a inteligência artificial a fim de atrair os gigantes do setor, em detrimento da regulação.
Situação do Grok no Brasil
O Instituto de Defesa de Consumidores (Idec) solicitou no dia 14 de janeiro à Agência Nacional de Proteção de Dados (ANPD), que suspendesse o Grok no Brasil. Na ocasião, o Idec formalizou uma denúncia diante do uso ilegal de dados pessoais, sensíveis e de crianças e adolescentes na geração de imagens sexualizadas por inteligência artificial.
“O funcionamento contínuo de sistemas de inteligência artificial que causam danos graves e previsíveis mostra a urgência de uma atuação firme do poder público. A proteção de dados pessoais, especialmente de crianças e adolescentes, não pode ser tratada como um detalhe em nome da inovação”, afirmou o Idec na época.
Segundo o Idec, a ferramenta permite a criação de imagens sexualizadas que mantêm características reais das pessoas retratadas. Isso significa que mulheres, crianças e adolescentes podem ter suas imagens manipuladas e expostas sem consentimento.
O Grok ainda está em funcionamento normal e recentemente lançou uma nova atualização de sua IA. A xAI, empresa de inteligência artificial da SpaceX, do Elon Musk, lançou o Grok Imagine 1.0, uma solução que promete criar vídeos de 10 segundos com imagem e áudio de maior qualidade que seus concorrentes.
O aplicativo X chegou a questionar, na última quinta-feira (12), sobre os testes realizados pela ANPD que teriam indicado que a ferramenta de inteligência artificial continuava a produzir deepfakes, montagens hiper-realistas capazes de simular falas e expressões, com conteúdo de teor sexual. Segundo a rede social de Musk não foram fornecidas “informações mínimas e essenciais para se verificar qual teria sido a modalidade do Grok utilizada para fins de se chegar a esses resultados”.
*Com informações da AFP
O Reino Unido está implementando leis mais rigorosas em relação à Inteligência Artificial após brechas no funcionamento do Grok. Como servidor público há mais de 16 anos, acredito que a utilização responsável da IA é crucial para promover avanços na sociedade. Devemos pensar em como tirar o melhor proveito dessa tecnologia para melhorar nossa qualidade de vida e garantir que ela seja utilizada de forma ética e segura. É importante refletir sobre como a IA pode ser uma ferramenta poderosa para resolver problemas complexos, mas também devemos estar atentos às suas possíveis consequências. É hora de considerarmos o impacto da IA em nossas vidas e como podemos utilizá-la de maneira consciente e benéfica para todos.