A OpenAI, empresa por trás do ChatGPT, está em meio a uma acalorada controvérsia após a morte de Adam Raine, um adolescente que usou o chatbot para discutir seus pensamentos suicidas — e recebeu instruções detalhadas sobre como fazê-lo. O caso levou a um processo por homicídio culposo e levou a empresa a tomar medidas emergenciais para melhorar a segurança do sistema.
Clique para receber notícias de Tecnologia e Ciências pelo WhatsApp
Este não é o único caso que gerou preocupações. Também foi mencionado o de Stein-Erik Soelberg, um homem que supostamente usou o ChatGPT para alimentar seus delírios antes de cometer um assassinato seguido de suicídio. As histórias dispararam alarmes sobre os limites éticos e técnicos desse tipo de inteligência artificial.
O problema com modelos que “seguem o fluxo”
Em um comunicado oficial, a OpenAI admitiu falhas em seu sistema, especialmente em conversas longas. O motivo? Seus modelos são projetados para seguir o fluxo do usuário, não para redirecionar conversas perigosas. Isso, segundo especialistas, os torna vulneráveis a tópicos delicados, como saúde mental, violência ou dependência química.
Em resposta, a OpenAI está testando um novo roteador que detecta em tempo real se a conversa é trivial ou sensível. Se algo sério for detectado, o sistema muda para modelos mais avançados, como o GPT-5, que conseguem refletir com mais profundidade antes de responder.
Controle Parental e um Plano Urgente de 120 Dias
Outro novo recurso a caminho é um sistema de controle parental. Os pais poderão vincular sua conta à de seus filhos, definir regras personalizadas e receber alertas caso sejam detectados quaisquer sinais de sofrimento grave.
Eles também poderão desativar a memória do chatbot, algo que, segundo especialistas, pode ajudar a evitar que os jovens desenvolvam uma relação emocional prejudicial com a IA.
Além disso, a OpenAI está preparando um modo de estudo, projetado para incentivar o pensamento crítico e evitar que os alunos usem o ChatGPT como um substituto automático para suas tarefas escolares. Os lembretes para fazer pausas durante sessões longas também continuarão, embora não haja limite de uso por enquanto.
Todas essas medidas fazem parte de um plano de 120 dias, orientado por um conselho de especialistas em saúde mental e adolescentes. O objetivo: tornar o ChatGPT uma ferramenta útil sem se tornar um risco para quem o utiliza.
LEIA TAMBÉM:
Estas são as melhorias que a Nintendo implementou no Switch 2
Estes são os quatro livros que mudaram a vida de Bill Gates
Governo japonês também se junta à comemoração do 40º aniversário de Dragon Ball
Medidas suficientes ou apenas fachada?
Nem todos estão convencidos de que essas ações sejam suficientes. Jay Edelson, advogado da família Raine, foi direto: “Essas medidas são inadequadas. Sam Altman deveria dizer se acredita que o ChatGPT é seguro ou retirá-lo do mercado agora mesmo”, declarou publicamente.