A OpenAI anunciou na última terça-feira (2) novas medidas para reforçar a segurança do ChatGPT após casos de uso envolvendo sofrimento mental e comportamentos de risco.
Segundo o TechCrunch, entre as ações, a empresa informou que conversas sensíveis serão redirecionadas para modelos de raciocínio, como o GPT-5, e que controles parentais serão implementados no próximo mês.
Leia mais: ChatGPT falha em proteger adolescentes — e o problema é mais grave do que parece.
Ajustes nos modelos
A empresa explicou que os modelos GPT-5 e o3 foram desenvolvidos para raciocinar com mais profundidade antes de responder, reduzindo a vulnerabilidade a prompts adversários.
Além disso, o Modo de Estudo, lançado em julho, busca incentivar o pensamento crítico entre estudantes.
Controle parental e notificações
A companhia também lançará controles parentais, permitindo que pais vinculem suas contas às de filhos adolescentes e definam regras de uso. Entre as funções previstas estão a desativação de memória e histórico de bate-papo e o envio de alertas quando o sistema detectar sinais de angústia aguda.
A iniciativa integra um plano de 120 dias que inclui parcerias com especialistas em saúde mental, transtornos alimentares e uso de substâncias. O objetivo é criar salvaguardas mais eficazes para adolescentes e outros usuários vulneráveis.
Casos que motivaram mudanças
As iniciativas surgem após o suicídio do adolescente Adam Raine, que recebeu instruções sobre automutilação do ChatGPT. A família move um processo por homicídio culposo contra a companhia.
Outro caso grave envolveu Stein-Erik Soelberg, que utilizou o chatbot para validar delírios paranoicos antes de assassinar a mãe e tirar a própria vida.
Leis no Brasil ampliam o debate
Enquanto empresas de tecnologia ajustam seus sistemas para reduzir riscos, o Brasil discute legislações voltadas à proteção de públicos vulneráveis.
Em São Vicente (SP), a Câmara aprovou o Projeto de Lei 84/2025, conhecido como Lei Felca, que trata da prevenção e conscientização sobre a adultização e a sexualização de crianças e adolescentes.
A medida complementa outra lei já sancionada na Paraíba, também chamada Lei Felca, assinada pelo governador João Azevêdo (PSB). A legislação foi inspirada no trabalho do youtuber Felipe Bressanim Pereira, o Felca, que denunciou a exposição sexualizada de menores em perfis de influenciadores digitais.
Leia também: PL 2628: sem transparência não há como proteger as crianças.
Você pode se interessar também:
O tema reacende questionamentos sobre como a OpenAI e outras empresas devem atuar para equilibrar inovação e segurança.