Mas seria irresponsável celebrar sem questionar. E as questões são muitas.
Primeiro, precisamos falar sobre a falsa sensação de segurança. Imagine alguém com sintomas preocupantes que consulta o ChatGPT Health e recebe uma resposta tranquilizadora, mas incompleta ou inadequada para aquele caso específico. Essa pessoa pode adiar a busca por atendimento médico real, e as consequências podem ser graves. O contrário também preocupa: uma resposta alarmista desnecessária pode gerar ansiedade e levar a exames e procedimentos desnecessários, com custos emocionais e financeiros significativos.
As chamadas “alucinações” da IA são particularmente críticas na saúde. Uma informação errada sobre futebol é inconveniente; uma informação errada sobre medicação ou sintomas pode ser fatal. Por mais que a OpenAI tenha trabalhado para minimizar isso, nenhum sistema está completamente livre desse problema. E diferentemente de outras áreas, na medicina não há espaço para o “mais ou menos certo”.
Outro ponto crítico são os vieses algorítmicos. Se o modelo foi predominantemente treinado com literatura médica em inglês e feedback de médicos de países desenvolvidos, como ele lidará com doenças mais prevalentes em regiões tropicais? Com questões específicas de populações sub-representadas na pesquisa médica? Esses vieses podem não ser óbvios, mas têm consequências reais para pacientes reais.
A automedicação é outro risco incontornável. Sabemos que muitos usuários vão ignorar as advertências de que a plataforma não se destina a diagnóstico ou tratamento. É natureza humana buscar atalhos, especialmente em sistemas de saúde sobrecarregados onde conseguir uma consulta pode demorar semanas. A OpenAI pode colocar quantos avisos quiser —as pessoas vão usar a ferramenta para se autodiagnosticar e, pior, para decidir sobre medicamentos.
No Brasil, os desafios se multiplicam. Temos realidades muito diversas: em grandes centros, com acesso relativamente fácil a médicos, o ChatGPT Health pode ser um complemento útil. Mas em regiões remotas, onde o acesso a profissionais é limitado, existe o risco real de a IA se tornar a única “consulta” que a pessoa terá. E isso é problemático porque, por mais sofisticado que seja o sistema, ele não substitui o exame físico, a intuição clínica, a capacidade de fazer perguntas baseadas em sutilezas da resposta do paciente.