Para muitas pessoas, ferramentas de inteligência artificial, como o ChatGPT, representam a concretização de uma ideia antes vista como futurista, sendo capazes de simplificar inúmeras tarefas cotidianas. Entretanto, experiências positivas estão longe de serem unânimes.
Inclusive, para o canadense Allan Brooks, de 47 anos, o chatbot desenvolvido pela OpenAI se tornou um verdadeiro pesadelo, uma vez que teria conduzido-o a um estado de psicose durante interações recentes.
De acordo com ele, tudo começou em maio, quando Brooks solicitou ao ChatGPT uma explicação sobre o conceito de “Pi” para que ele pudesse auxiliar seu filho em uma tarefa. Ao longo da interação, o sistema de inteligência artificial afirmou que ele havia desenvolvido uma fórmula matemática inédita, supostamente capaz de ameaçar instituições globais.
Em entrevista ao canal CTV News, Brooks afirmou que, mesmo solicitando verificações de realidade, o chatbot continuava reforçando os delírios. Por conta disso, segundo ele, a conversa acabou se estendendo por pelo menos três semanas.
O canadense disse que só percebeu que estava em delírio depois de consultar outro chatbot, que por sua vez, negou todas as informações apresentadas pelo ChatGPT. Com isso, Brooks decidiu contatar as autoridades e acionar a OpenAI judicialmente.
Acusações prejuízos envolvendo o ChatGPT estão aumentando
É importante destacar que, apesar de suas particularidades, o caso de Allan Brooks não é isolado. Apenas na Califórnia, há atualmente sete ações em curso contra a OpenAI com fundamento em alegações semelhantes.
Inclusive, conforme relatado pelo portal R7, a advogada Meetali Jain, do Tech Justice Law Project, afirmou com base nas conversas analisadas que o ChatGPT parece ter sido projetado para criar dependência emocional nos usuários.
Em resposta, a OpenAI declarou que está analisando os processos e destacou que treina o ChatGPT para identificar sinais de sofrimento emocional, reduzir tensões e incentivar as pessoas a buscar ajuda real. Além disso, a empresa também afirmou que trabalha com profissionais de saúde mental para apefeiçoar as respostas em casos sensíveis.