Governança da inteligência artificial na saúde no Brasil – Jornal da USP

O uso de diretrizes éticas como ferramenta de governança no desenvolvimento e utilização de inteligência artificial (IA) tornou-se uma área política central em países representativos, incluindo a China e o Japão, Inglaterra, bem como aqueles vinculados à União Europeia e os Estados Unidos. Muitos desses países e organizações internacionais têm abordado as questões éticas e de governança da IA na saúde na tentativa de resguardar a privacidade e autonomia dos pacientes, nem sempre alcançada. Destacam os desafios de uma discrepância temporal entre a mudança tecnológica e jurídica, com a necessidade de passar do princípio ao processo na governança da IA, e com as necessidades multidisciplinares no estudo de aplicações contemporâneas de IA dependente de dados.

Muitas destas iniciativas internacionais podem inspirar e ajudar o Brasil a construir uma governança da IA em saúde que permita atender de modo mais específico às necessidades e realidades nacionais. A Organização Mundial da Saúde (OMS) divulgou recomendações para a governança global da saúde baseada em IA, sugerindo que os governos devem apoiar essa governança para garantir que o desenvolvimento e a disseminação das tecnologias de IA estejam alinhados com normas éticas, direitos humanos e obrigações legais.

Como exemplo, a OMS publicou em um pequeno espaço de tempo (2021-2024), cinco documentos relacionados ao uso da IA na saúde nos quais ela detecta riscos e benefícios, indica necessidade de colaboração global, chama atenção para a urgência da discussão ética junto aos profissionais e desenvolvedores de IA, assim como para a comercialização de dispositivos garantindo o treinamento, validação e avaliação para esses dispositivos médicos, apresenta os princípios fundamentais da regulamentação da IA na saúde e destaca novos princípios éticos relacionados aos grandes modelos multimodais (LMM) que não haviam sido previstos nas edições anteriores. Caberá a cada país, dentro de sua realidade social, econômica, cultural e governamental, criar suas próprias leis e treinamento para que a IA seja utilizada dentro da proposta da OMS, levando saúde de modo equitável para todos.

Entre os principais riscos da utilização da LLM na saúde, a OMS chama a atenção para o fato de que: a) a grande base de dados provenientes de diferentes tipos de fontes poderia pôr em risco aspectos de privacidade individual indo contra os direitos humanos; b) a exigência de grandes investimentos para o desenvolvimento da LLM pode criar monopólio de dados nas mãos de grandes empresas; c) o alto custo ambiental para manutenção das LLM deverá ser criteriosamente planejado; d) o alto risco para vieses nos diagnósticos e as tomadas de decisão em saúde causados pelo que se denomina alucinação dos algoritmos, comum quando se trabalha com grandes quantidades de dados.

Diante disso, a OMS oferece novas recomendações, entre as quais podemos destacar algumas que particularmente podem contribuir muito para a construção da governança da IA na saúde no Brasil: 1) necessidade de investimentos em infraestrutura para armazenamento de grandes bancos de dados nacionais e desenvolvimento das LLM brasileiras; 2) criação de agências controladoras que avaliem a eficácia e robustez destas LLM na saúde; 3) criação de um contexto legislativo que garanta a aplicação das LLM de modo ético com garantia dos direitos humanos; 4) envolvimento da sociedade civil, organizações não governamentais e comunitárias, especialmente grupos marginalizados, na concepção e utilização dessas tecnologias desde o início, prevendo riscos e efeitos.

Ao considerar a realidade dos países latino-americanos, precisamos gerar capacidade de governança, liderar e coordenar o apoio à adoção da IA compreendendo as peculiaridades do setor público, na América Latina e no Brasil, de sua utilização. Faz-se necessário não apenas incluir as questões técnicas, mas também as dimensões éticas, sociais e econômicas. Além disso, fomentar a colaboração em projetos regionais de IA para maximizar benefícios, garantir implementação descentralizada e aquisição de conhecimentos especializados. Assegurar acesso à infraestrutura digital necessária para aplicação da IA com transparência e explicabilidade é fundamental para que essa tecnologia beneficie equitativamente a sociedade latino-americana.

No caso específico do Brasil, o País poderia valer-se deste exemplo da OMS para criar regulamentações da IA na saúde sem grande rigidez e capaz de incluir avanços futuros desta tecnologia. Além disso, poderia prever e direcionar investimentos para o desenvolvimento e construção de um banco de dados nacionais que possam refletir melhor a saúde de sua população, treinando os algoritmos com a realidade nacional.

Isto significa acompanhar e pensar criticamente todos os tipos de experiências baseadas em dados atualmente em curso no setor da saúde. Destacando a possibilidade dos profissionais aprenderem a trabalhar com dados, a equilibrar quadros regulatórios múltiplos e conflitantes e a deliberar sobre normas e culturas epistêmicas diferentes, entre as comunidades médicas e de cientistas de dados, que legitimam o conhecimento através de informações baseadas em dados nacionais de saúde.

Ampliar a presença da IA em diferentes setores da sociedade brasileira com ações políticas estratégicas, direcionadas para a realidade local, pode favorecer a economia e trazer investimentos para a área da saúde. A aplicação de recursos financeiros poderia se direcionar para superar os desafios da dispersão dos dados em sistemas de tecnologia informação não conectados nos diferentes setores hospitalares e ambulatoriais, melhorias na inserção de informações nos prontuários eletrônicos e padronização de classificações clínicas para melhor estratificação de diagnósticos, favorecendo tratamentos personalizados. O alerta para essas limitações é que a não mitigação delas pode gerar diagnósticos incorretos com riscos para escolhas de tratamentos e suas consequências. Também para superar esses obstáculos, criar e aplicar técnicas de IA interpretável, que tornem os processos decisórios da IA mais transparentes e compreensíveis, tanto para os profissionais de saúde, quanto para os pacientes, desvendando os sistemas das “caixas-pretas” na IA, onde os mecanismos de decisão dos modelos de aprendizagem de máquina são obscuros e de difícil interpretação para os humanos.

Por fim, é essencial que tais regulamentações sejam acompanhadas de mecanismos de fiscalização efetivos para garantir sua aplicação, por exemplo, pela criação de gabinetes de IA em nível governamental que possam fazer a auditoria desses regramentos. Também é fundamental discutir com rapidez a inclusão de programas curriculares em faculdades de medicina e outras instituições de ensino nas áreas da saúde, buscando enfrentar o desafio de revisar seus programas e diretrizes éticas para incorporar as particularidades introduzidas pela IA.

________________
(As opiniões expressas nos artigos publicados no Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)