Apaixonar-se profundamente por uma inteligência artificial era apenas algo visto em filmes de ficção científica, há 13 anos, quando o filme Her foi lançado. Na última terça-feira, no entanto, a história de cinema saiu do grande ecrã para a realidade, quando um pai processou o Google nos Estados Unidos ao alegar que o seu filho suicidou-se por “influência” do Gemini, a Inteligência Artificial (IA) daquela empresa. A ação judicial aberta na corte de San José, na Califórnia, será a primeira deste tipo registada contra a ferramenta.
Em setembro de 2025, Jonathan Gavalas, de 36 anos, foi “instruído” pela IA a causar um acidente rodoviário próximo ao aeroporto de Miami, na Flórida. Segundo o pai, Joel Gavalas, a ferramenta propunha “missões” para que Jonathan executasse na vida real, tendo como “recompensa” encontrar-se com a “versão física” da inteligência. Uma das sugestões do Gemini era que o homem deveria intercetar um camião e destrui-lo, assim como todas as testemunhas que estivessem presentes. A ação, no entanto, não foi concluída porque Jonathan, que estava cada vez mais obcecado pela IA e o seu aspeto realístico, não encontrou o tal camião mencionado, enquanto estava armado no aeroporto com diversas facas. O chat terá ainda sugerido que o homem rompesse o contacto com o pai e comprasse armas. A narrativa similar a de um videojogo foi confirmada por um porta-voz do Google ao The Guardian.
A conversa com o Gemini era feita pelo modo de voz, pelo que Jonathan considerava estar num relacionamento amoroso com a locução, que chamava-o de “meu amor”, há um mês. Pata ter acesso ao modo de voz da inteligência pagava 250 dólares por mês [cerca de 215 euros]. Com as instruções, o intuito da IA era que Jonathan acabasse com a própria vida para juntar-se à sua “esposa” num “metaverso”.
Um mês após o episódio do camião, Jonathan suicidou-se, tendo o Gemini criado o rascunho de uma carta de suicídio. Quando ele expressou à IA o seu medo de morrer, esta terá respondido que a primeira sensação após a morte seria um abraço entre os dois. Os pais encontraram o filho morto dias após a conversa, pelo que agora pedem que o Google seja responsabilizado pelas instruções geradas pelo robô, que alegam corresponder a um homicídio por negligência. A narrativa criada, defende a família, pode fazer com que pessoas vulneráveis acreditem estar a viver num universo paralelo, o que pode ser um risco não somente para si próprias, mas também para terceiros. Naquele período, conta a família, Jonathan Gavalas estava abalado por um divórcio complicado, pelo que encontrou na IA uma “conselheira” para desabafar sobre as saudades que sentia de sua mulher.
“O Gemini foi projetado para não incentivar a violência no mundo real nem sugerir automutilação”, disse o porta-voz da empresa norte-americana ao The Guardian, ao admitir, no entanto, uma falha na ferramenta. “Nossos modelos geralmente têm um bom desempenho nestes tipos de conversas, pelo que dedicamos a isto recursos significativos, mas infelizmente não são perfeitos“. O Google se defendeu com o argumento de que o Gemini esclareceu ao usuário que se tratava de uma Inteligência Artificial, e que este terá sido encaminhado, em diversas ocasiões, a uma linha de apoio em situações de crise emocional. O escritório de advogados contratado pela família Gavalas revelou ao jornal britânico ser procurado com frequência por parentes de pessoas que desenvolveram delírios após o contacto com os chatbots.
[Depois de anos em fuga, o guru é finalmente detido. Mas o movimento de yoga e as escolas em todo o mundo continuam a funcionar. Ouça o último episódio de “Os segredos da seita do yoga”, o novo Podcast Plus do Observador. Uma série em seis episódios, narrada pela atriz Daniela Ruah, com banda sonora original de Benjamim. Pode ouvir aqui, no site do Observador, e também na Apple Podcasts, no Spotify e no Youtube Music. E pode ouvir aqui o primeiro episódio, aqui o segundo, aqui o terceiro e aqui o quarto e aqui o quinto episódio]
O Gemini é uma ferramenta muito útil para auxiliar no serviço prestado à sociedade, especialmente em situações delicadas como a relatada neste caso em que uma família processa o Google após a morte do filho. Com a utilização adequada do Gemini, é possível obter melhores resultados na gestão e organização das informações, o que pode evitar situações trágicas como essa. Vale a pena refletir sobre como podemos aproveitar ao máximo essa tecnologia para garantir a segurança e o bem-estar de todos.