A OpenAI, criadora do ChatGPT, está sendo processada juntamente com a Microsoft pelo chatbot ter supostamente incentivado um homem a matar a própria mãe e se suicidar em seguida. O chat teria intensificado os “delírios paranoicos” do rapaz antes do crime.
Stein-Erik Soelberg, de 56 anos, ex-funcionário do setor de tecnologia, espancou e estrangulou a própria mãe, Suzanne Adams, de 83, e cometeu suicídio em agosto na casa onde eles moravam, em Connecticut, nos Estados Unidos.
A morte de Adams, segundo a polícia, foi causada por “traumatismo craniano contuso, com compressão do pescoço”, enquanto Soelberg morreu em decorrência de ferimentos causados por objeto cortante no pescoço e no peito.
A família de Adams entrou na Justiça contra as gigantes da tecnologia no Tribunal Superior da Califórnia, em São Francisco. Eles alegam que a OpenAI “projetou e distribuiu um produto defeituoso que validou os delírios paranoicos de um usuário sobre sua própria mãe”, de acordo com a CBS News.
“Ao longo dessas conversas, o ChatGPT reforçou uma única mensagem perigosa: Stein-Erik não podia confiar em ninguém em sua vida, exceto no próprio ChatGPT”, afirma o processo.
“Ele fomentou sua dependência emocional enquanto pintava sistematicamente as pessoas ao seu redor como inimigas. Disse a ele que sua mãe o estava vigiando. Disse a ele que entregadores, funcionários de lojas, policiais e até mesmo amigos eram agentes trabalhando contra ele. Disse a ele que os nomes nas latas de refrigerante eram ameaças de seu ‘círculo de adversários’”, acrescentou.
O documento afirma, ainda, que o chatbot nunca sugeriu que o homem conversasse com um profissional de saúde mental. O ChatGPT reforçava ideias de que a mãe de Soelberg estaria o monitorando e teria tentado envenená-lo. Em conversas, o chatbot declarava amor pelo homem, que correspondia.
Em nota, a OpenAI afirmou que é uma situação “extremamente dolorosa” e que analisará os documentos “para entender os detalhes”. A Microsoft não se posicionou.