As respostas fornecidas no buscador do Google pelos Resumos de IA podem causar danos à saúde por fornecer respostas equivocadas. De acordo com uma investigação do The Guardian, os usuários podem estar expostos a riscos ao pesquisar sobre doenças e exames na plataforma.
Um exemplo usado pelo relatório foi o aconselhamento da ferramenta de busca a pessoas com câncer de pâncreas, dizendo-as para evitar alimentos ricos em gordura — o oposto recomendado pelos médicos consultados, que afirmaram que essas pessoas poderiam estar em risco de vida caso seguissem a orientação.
Ao ignorar o contexto e as informações da pessoa que está fazendo a pergunta para formular uma resposta personalizada, o buscador do Google pode fornecer respostas falsas e perigosas — como quando testado para entregar informações sobre funções hepáticas, que poderiam levar o usuário a não procurar ajuda, mesmo quando necessário pela condição de saúde.
O Google informou ao jornal que considera os Resumos de IA “úteis” e “confiáveis” e que realiza melhorias contínuas na qualidade. De acordo com a empresa, essa funcionalidade tem uma taxa de precisão igual a sua ferramenta de busca.
Ainda, disseram que, caso as respostas escolhidas pela inteligência artificial estiverem erradas, tomariam as medidas cabíveis de acordo com suas políticas.