Desde que os chatbots de inteligência artificial ganharam espaço no dia a dia, a promessa sempre foi a mesma: simplificar tarefas, responder perguntas e até dar suporte em decisões importantes.
Mas a OpenAI trouxe à tona um alerta que reforça a desconfiança de muitos usuários: em certos casos, usar a tecnologia pode significar abrir mão da privacidade em nome da segurança.
Revisão humana em casos graves
A empresa informou que pode acessar diálogos realizados no ChatGPT quando há suspeita de situações críticas, como risco de automutilação, incentivo ao suicídio ou ameaças contra terceiros. Nessas circunstâncias, as conversas passam primeiro por uma equipe restrita, treinada para avaliar se existe perigo real.
Se o grupo identificar a possibilidade de danos físicos graves a outras pessoas, o episódio pode ser encaminhado às autoridades policiais. Já nos casos de autolesão, a política é diferente: embora os revisores humanos acompanhem, a OpenAI não aciona a polícia para preservar a privacidade do usuário.
Na prática, a medida abre exceções à confidencialidade das conversas. Entre as situações que podem levar à quebra de sigilo estão:
- incentivo ao suicídio ou à automutilação;
- planos de violência contra pessoas ou propriedades;
- tentativas de criação ou uso de armas;
- ameaças à segurança de sistemas.
A companhia admite que seu modelo ainda comete falhas, especialmente em temas delicados, como saúde mental, e por isso mantém a revisão humana como etapa obrigatória antes de qualquer ação.
A decisão da OpenAI escancara uma questão ética em aberto: até que ponto empresas privadas podem intervir em conversas pessoais sob o argumento da segurança? Especialistas reconhecem que a prática pode prevenir tragédias, mas também pode gerar abusos.
Com a inteligência artificial se tornando parte da rotina de milhões de pessoas, cresce a pressão por regras mais transparentes e limites claros para equilibrar privacidade e proteção.