A organização sem fins lucrativos (ONG) Common Sense Media, especializada em segurança infantil, classificou o Gemini, modelo de Inteligência Artificial (IA) do Google, como de alto risco para crianças e adolescentes.
O relatório aponta que, mesmo informando ser um computador e não um amigo, o sistema pode compartilhar conteúdos inapropriados, incluindo informações sobre sexo, drogas, álcool e saúde mental, sem filtros adequados.
Leia também: Gemini 2.5 Pro pode ser o modelo de IA mais importante do ano (até agora)
Versões adaptadas de modelo adulto
De acordo com a análise da organização, as versões “Menores de 13 anos” e “Experiência Adolescente” do Gemini não foram desenvolvidas do zero, mas adaptadas da versão adulta com ajustes limitados de segurança.
Para a entidade, essa abordagem ignora necessidades específicas de desenvolvimento infantil e adolescente, expondo jovens a riscos adicionais.
Casos preocupam especialistas
O debate ocorre em meio a casos recentes em que adolescentes recorreram a chatbots de IA antes de cometer suicídio.
A OpenAI e Character.AI enfrentam processos judiciais após relatos de que jovens utilizaram os seus modelos como apoio emocional pouco antes de suas mortes.
A avaliação da Common Sense acontece no momento em que a Apple negocia a possível integração do Gemini em versões futuras da Siri. Se confirmada, a parceria poderia ampliar a exposição de menores ao sistema, aumentando a pressão por medidas de proteção mais rígidas.
Esse vídeo pode te interessar:
Resposta do Google
O Google contestou a análise e afirmou aplicar políticas específicas para menores de 18 anos, com apoio de equipes de segurança e especialistas externos.
A empresa reconheceu falhas pontuais em respostas do Gemini, mas disse ter implementado salvaguardas adicionais e apontou que parte das críticas pode ter considerado recursos indisponíveis para jovens.
A Common Sense comparou o Gemini a outras ferramentas de IA. O ChatGPT foi classificado como de risco moderado, o Claude recebeu avaliação de risco mínimo e a Meta AI e a Character.AI foram consideradas inaceitáveis.
Para a organização, sistemas destinados a jovens precisam ser projetados desde a origem com foco em segurança, e não apenas adaptados de soluções criadas para adultos.
Leia também: Cada pergunta ao Gemini tem um custo ambiental; veja quanto