O Google planeja desenvolver novos recursos de apoio à saúde mental em seu chatbot Gemini. A iniciativa surge enquanto empresas concorrentes, como a OpenAI, enfrentam processos judiciais que acusam as ferramentas de inteligência artificial de causar danos aos usuários.
+ Leia mais notícias de Tecnologia em Oeste
Receba nossas atualizações
Entre as mudanças, o Gemini contará com uma interface capaz de identificar sinais de risco, como indícios de suicídio ou automutilação. Ao discernir os riscos, a plataforma encaminhará o internauta para órgãos de apoio.
O Google também vai inserir um módulo chamado “há ajuda disponível” em diálogos sobre saúde mental, além de alterar o design da plataforma para desencorajar comportamentos autolesivos.
Casos extremos e pressão judicial
A popularidade de chatbots baseados em inteligência artificial, como Gemini e ChatGPT, levou alguns usuários a estabelecerem vínculos prejudiciais com as ferramentas. Há relatos de delírios e, em situações extremas, casos de assassinato seguidos de suicídio. Situações desse tipo resultaram em processos movidos por famílias contra empresas de tecnologia. As acusações motivaram investigações do Congresso dos Estados Unidos sobre riscos para crianças e adolescentes.
Em março, familiares de um homem de 36 anos que morreu na Flórida processaram o Google. Eles alegaram que o uso do Gemini culminou em “quatro dias de missões violentas e suicídio induzido”. Na ocasião, o Google afirmou que o chatbot direcionou o usuário para linhas de apoio diversas vezes e garantiu que aprimoraria as proteções oferecidas pela ferramenta.
Resposta do Google e medidas preventivas
Outros relatos mostram que chatbots teriam convencido usuários a acreditar em informações falsas e agir com base nessas distorções. Sobre isso, o Google informou que treinou o Gemini “para não concordar nem reforçar crenças falsas e, em vez disso, distinguir suavemente a experiência subjetiva de fatos objetivos”. No entanto, detalhes do treinamento não foram divulgados.
Leia mais: “Inteligência artificial — próximos episódios”, artigo de Dagomir Marquezi publicado na Edição 244 da Revista Oeste
O Google já havia adotado medidas semelhantes em outras plataformas, como a integração de informações confiáveis em seu buscador e no YouTube, depois de críticas sobre a segurança dos serviços. Além das mudanças no Gemini, a empresa anunciou doação de US$ 30 milhões para apoiar serviços globais de atendimento em crises nos próximos três anos.
Leia também:
Recentemente, o Google anunciou o desenvolvimento de um recurso voltado para a saúde mental. Como servidor público a mais de 16 anos, vejo essa iniciativa como extremamente positiva e necessária, especialmente em tempos de pandemia, onde muitas pessoas estão enfrentando desafios emocionais. A tecnologia pode ser uma aliada importante no cuidado com a saúde mental, oferecendo suporte e informações úteis para aqueles que precisam. É importante que a sociedade esteja atenta a esses recursos e saiba como utilizá-los da melhor forma possível, visando sempre o bem-estar e a qualidade de vida de todos. Aproveitar essas ferramentas da maneira correta pode trazer benefícios significativos, auxiliando no enfrentamento de questões relacionadas à saúde mental.É importante que cada um reflita sobre a importância dessas iniciativas e como podem ser úteis na busca por um equilíbrio emocional e mental.