A OpenAI anunciou a implementação de um novo recurso no ChatGPT voltado à proteção de usuários jovens. A ferramenta, chamada internamente de “age prediction”, utiliza inteligência artificial para estimar a idade do usuário e, a partir disso, aplicar automaticamente restrições de conteúdo consideradas adequadas para menores de 18 anos.
De acordo com o Tech Crunch, iniciativa surge em meio ao aumento das preocupações globais sobre os impactos da inteligência artificial em crianças e adolescentes. Nos últimos anos, a OpenAI tem sido alvo de críticas relacionadas ao uso do ChatGPT por jovens, incluindo questionamentos sobre a exposição a temas sensíveis e falhas nos mecanismos de proteção. Assim como outros fornecedores de IA, a empresa já enfrentou pressão por permitir que o chatbot abordasse conteúdos inadequados para esse público em determinados contextos.
Segundo a OpenAI, o novo sistema não substitui, mas complementa as salvaguardas já existentes. A previsão de idade é feita com base em um algoritmo que analisa “sinais comportamentais e de nível de conta”, conforme detalhado pela empresa em um post publicado em seu blog oficial. O objetivo é identificar contas que provavelmente pertencem a menores de idade e reforçar, de forma automática, os limites de conteúdo nessas interações.
Entre os sinais analisados estão informações como a idade declarada pelo próprio usuário, o tempo de existência da conta e os horários em que ela costuma estar ativa. Esses dados são combinados para gerar uma estimativa de faixa etária. Caso o sistema identifique que a conta pertence a um usuário com menos de 18 anos, entram em vigor filtros de conteúdo já utilizados pela plataforma para bloquear ou limitar discussões sobre sexo, violência e outros temas considerados sensíveis.
A OpenAI afirma que esses filtros já faziam parte da arquitetura do ChatGPT, mas que, com a introdução do mecanismo de previsão de idade, a aplicação passa a ser mais proativa, sem depender exclusivamente da autodeclaração do usuário. A medida reflete uma tentativa de responder às críticas acumuladas e de demonstrar maior responsabilidade no uso da tecnologia por públicos mais jovens.
Para usuários que forem classificados de forma incorreta como menores de idade, a empresa afirma que existe um processo de reversão. Nesse caso, é possível restabelecer o status de conta adulta por meio de uma verificação de identidade. O procedimento envolve o envio de uma selfie ao parceiro de verificação da OpenAI, a empresa Persona, responsável por validar a idade do usuário.