A inteligência artificial está a marcar a agenda estrutural estratégica do funcionamento do Estado português. Ultrapassámos já o ponto das experiências pontuais ou dos projetos-piloto, e caminhamos firmemente para a utilização de sistemas de análise de grandes quantidades de dados, de identificação de riscos ou de priorização de decisões administrativas, tudo isto a influenciar indelevelmente o modo como os recursos públicos são geridos. A narrativa dominante apresenta esta transformação como inevitável e, sobretudo, benéfica – o que não duvidamos. Mas há uma questão que, neste contexto, não se quer calar: quem governa a inteligência artificial quando ela passa a moldar a ação do Estado?
Assistimos à generalização de discursos tecno-otimistas sobre a utilização da tecnologia. Convirá, no entanto, não esquecer que a fraude e a corrupção não são consequências de meros défices de informação ou de falhas na capacidade técnica das organizações. São fenómenos institucionais, que emergem de margens excessivas de discricionariedade, de fragilidades nos mecanismos de controlo, de défices persistentes de responsabilização e de capacitação das pessoas.
A inteligência artificial pode ajudar a detetar padrões anómalos e a reduzir algumas assimetrias de informação, se utilizada num quadro de governação da integridade digital. Com efeito, os benefícios reais da utilização de inteligência artificial só se materializam no alinhamento de capacidades técnicas internas, de mecanismos claros de governação ética e numa cultura institucional orientada para a aprendizagem, a independência e a responsabilidade.
O risco fundamental é claro: quando a governação é frágil, a inteligência artificial não corrige falhas — automatiza-as e amplia-as. Algoritmos treinados com dados enviesados reproduzem práticas injustas; sistemas opacos dificultam a explicabilidade e a contestação de decisões; e a aura de neutralidade técnica tende a ocultar escolhas que são, na verdade, políticas e institucionais. O resultado não é mais ou melhor controlo democrático, mas uma nova forma de opacidade, agora revestida de linguagem tecnológica: techwashing.
Portugal tem investido na digitalização da Administração Pública e acompanha de perto a agenda europeia para a regulação da inteligência artificial. No entanto, a confiança dos cidadãos nas instituições continua periclitante e os problemas de fraude, irregularidades e corrupção persistem em áreas críticas da ação pública. O problema não está, de todo, na utilização da inteligência artificial, mas na forma como ela é integrada nas organizações. Convirá questionarmo-nos: existem mecanismos claros de supervisão humana? Definição de responsabilidades se o sistema falhar? As instituições públicas têm competências internas para compreender, questionar e corrigir decisões automatizadas?
A resposta a estas perguntas não pode ser encontrada em castros isolados como sejam o simples cumprimento legal ou o comprometimento com códigos de ética genéricos. É necessário garantir que a tecnologia está incorporada em instituições com capacidade real de controlo. De outro modo, a promessa de uma “IA ao serviço do interesse público” esvazia-se antes de se materializar.
A União Europeia tem-se empenhado (com tibieza, é certo) em estabelecer o enquadramento regulatório da inteligência artificial, mas nenhuma regulação substitui instituições sólidas. A integridade não emerge do código-fonte nem dos algoritmos. Constrói-se na articulação entre regras claras, responsabilidades bem definidas e culturas organizacionais que não delegam decisões difíceis em sistemas automatizados para evitar o escrutínio.
Num momento em que a inteligência artificial se infiltra silenciosamente nos processos do Estado, a questão decisiva não é apenas tecnológica. É política e institucional. Sem governação da integridade digital, a inteligência artificial não torna o Estado mais inteligente — apenas mais vulnerável.