A semana que se passou foi marcada por uma polêmica envolvendo o Grok, ferramenta de Inteligência Artificial (IA) do X. Usuárias da rede social — e até a princesa de Gales, Kate Middleton — foram alvo do uso distorcido da tecnologia, que teria sido usada para gerar imagens nuas sem consentimento.
Com um simples comando, mulheres e até mesmo crianças e adolescentes viram sua intimidade ser violada, com a produção de imagens sexualizadas, eróticas e com conotação pornográfica a partir de fotos reais publicadas na rede. Os casos aceleraram o debate acerca das chamadas “deepfakes” — técnica avançada que utiliza a IA para gerar conteúdos falsos, mas que aparentam ser reais —, além das falhas nas medidas de segurança da plataforma.
Especialistas ouvidos pelo Metrópoles detalham que a prática é crime com penas de 4 a 10 anos de reclusão. Pedir para a IA modificar imagens para cunho sexual pode configurar crime contra a honra, previstos nos artigos 139 e 140 do Código Penal. Já a divulgação de “cena de sexo, nudez ou pornografia”, mesmo que as imagens não tenham sido adulteradas, sem o consentimento da vítima, pode configurar o crime previsto no artigo 218-C do Código Penal, com pena de 4 a 10 anos de reclusão.
O que é o Grok?
- Grok é o chatbot de inteligência artificial generativa desenvolvido pela xAI, startup de tecnologia fundada por Elon Musk em 2023, integrada diretamente à rede social X.
- Diferente de concorrentes com bases de dados estáticas, o Grok utiliza o fluxo de dados ao vivo do X para fornecer informações sobre eventos globais, notícias e tendências no exato momento em que acontecem.
- A ferramenta entrou em fase de testes fechados em novembro de 2023 e foi lançada oficialmente para assinantes do plano Premium+ nos EUA em dezembro de 2023. No Brasil, a funcionalidade chegou gradualmente ao longo do primeiro semestre de 2024.
- A IA foi programada com uma personalidade “anti-woke”, apresentando respostas com sarcasmo e humor, além de possuir menos filtros de restrição para temas sensíveis em comparação aos modelos da OpenAI e Google.
Diante desse cenário, a deputada federal Erika Hilton (PSol) protocolou no Ministério Público Federal (MPF) uma representação contra o X em função do funcionamento da IA do Grok para a geração das imagens criminosas. A petição afirma que a ferramenta passou a editar as imagens sem mecanismos que verifiquem informações importantes como consentimento, idade ou finalidade legítima.
Para o advogado e mestre em direito Adalberto Aleixo, além dos usuários, a plataforma também pode ser punida pelas atitudes criminosas. Ele reforça que na esfera cível, os usuários que alteram ou divulgam imagens podem ser condenados a reparar os prejuízos sofridos pelas vítimas, “uma vez que o Código Civil brasileiro impede a divulgação da imagem sem autorização, cabendo a reparação se houver ofensa à honra, imagem, respeitabilidade ou for utilizada para fins comerciais”.
“Além dos usuários, as plataformas, também podem ser responsabilizadas, uma vez que tem responsabilidade pelos dados de seus usuários e, tal como já foi decidido em várias oportunidades pelo Judiciário brasileiro, essas plataformas das redes sociais têm responsabilidade pelos dados”, frisa o professor.
Em pesquisa rápida, a reportagem do Metrópoles encontrou vários perfis que pedem para o Grok colocar roupas íntimas em mulheres ou até mesmo deixar determinada pessoa nua.
2 imagens
Um usuário pede para a IA colocar biquíni numa foto de uma mulher vestida e a plataforma atende ao pedido. Em outro caso, o Grok somente troca a roupa da vítima, no qual o usuário reforça o pedido que quer foto da mulher nua.
O especialista em crimes cibernéticos Rodrigo Fragola explica que do lado das empresas o caminho é a prevenção.
“Quem cria ferramentas de IA e distribui conteúdo precisa assumir que estes recursos podem ser usados de forma maliciosa e colocar limites técnicos, monitoramento e respostas rápidas”.
Para Fragola, atualmente não dá para afirmar que a culpa é somente do usuário quando o risco é conhecido é previsível. “A tendência é essa: mais responsabilidade, mais cuidado no design das ferramentas e menos tolerância com abusos digitais”, conclui.
Tendo em vista toda a polêmica, o X desativou, na sexta-feira (9/1), a função de criação de imagens para usuários não pagantes. Usuários que deram o comando para a IA modificar imagens receberam a seguinte mensagem: “A geração e a edição de imagens estão atualmente reservadas aos assinantes pagos. Você pode assinar para desbloquear essas funções”.