Ao recolher informação e realizar tarefas que antes requeriam empenho humano, as aplicações de inteligência artificial podem minimizar o esforço de procura e geração de novo conhecimento e conduzir a um estado de “colapso do conhecimento” colectivo, avisam o prémio Nobel da Economia Daron Acemoglu e os seus colegas do MIT Dingwen Kong e Asuman Ozdaglar.
Num artigo disponibilizado online, os autores avançam com a hipótese de este fenómeno já estar a acontecer com a Wikipedia, bem como com os fóruns online onde programadores informáticos colocam e respondem a questões sobre código.
Citando estudos anteriores, dão como exemplo o fórum de programadores Stack Overflow, onde “há agora menos actividade, menos envolvimento humano com as perguntas, e possivelmente menos geração de novo conhecimento criado por programadores experientes a lidar com novas questões”. A geração de código tem sido uma das áreas em que a tecnologia de IA generativa tem encontrado mais usos: serve tanto para auxiliar profissionais, como para que pessoas com muito poucos conhecimentos técnicos possam criar sites, aplicações ou serviços.
Este padrão de menor actividade, referem, “parece ser semelhante ao da Wikipedia, onde há menos leitura e geração [de texto] em áreas em que o ChatGPT é um substituto eficaz.”
Na base da teoria está uma questão de motivação humana.
O artigo argumenta que tomar decisões implica dois tipos de informação: informação específica de contexto (sobre uma determinada tarefa profissional, ou sobre um problema concreto que a pessoa precisa de resolver) e informação geral que faz parte do conhecimento colectivo da humanidade. A principal motivação de um indivíduo é a aquisição de informação específica; mas deste processo resulta a criação de alguma informação que acaba por ser acrescentada ao conhecimento colectivo.
Um exemplo poderá ser o caso do programador informático que coloca uma questão num fórum online, que acaba por ser respondida por outros profissionais – o problema e as respectivas soluções ficam disponíveis para quem os queira consultar, além de que quem responde pode ter-se debruçado sobre um problema específico em que nunca tinha pensado. Outro caso será o do utilizador que procura algo na Wikipedia e acaba a acrescentar informação a uma página.
Com o recurso a ferramentas de inteligência artificial – incluindo os agentes de IA que são capazes de executar processos complexos que implicam várias tarefas, em vez de apenas irem respondendo a questões escritas pelo utilizador – reduz-se a motivação humana para a procura de conhecimento específico, uma vez que o problema é resolvido pela máquina. Isto significa que se reduz também a geração de conhecimento colectivo.
“Melhor conhecimento geral na sociedade é um complemento ao esforço de aprendizagem humano, enquanto melhores recomendações para contextos específicos são substitutos. Como a IA generativa fornece este tipo de informação específica de contexto, pode ser esse substituto e reduzir o esforço humano”, resumem os autores. “Mas então, à medida que o menor esforço humano reduz à construção geral de conhecimento, a IA (especialmente a IA de agentes) pode empurrar dinamicamente a sociedade para menos informação efectiva, e até levar a um estado estável de colapso de conhecimento”.
O trio de investigadores lembra que “os modelos de IA podem agora analisar e escrever texto sobre um leque impressionante de temas, ao nível de peritos humanos especializados, e podem analisar vastos conjuntos de dados para reconhecer padrões e encontrar informação útil e relevante”. Mas “o uso crescente das ferramentas de IA generativa também tem suscitado medos, por exemplo, sobre o quanto a dependência da IA vai afectar a cognição humana, o conhecimento e a criatividade”.
Observam que há duas visões sobre a questão. Numa delas, a IA é vista como um complemento do processo de aprendizagem; na outra, é um substituto. No primeiro caso, “expandir a IA fará com que os humanos ponham o seu esforço e atenção onde interessa e usem a informação da IA com eficácia crescente”. Mas, no caso da substituição, “IA cada vez melhor vai desencorajar o esforço humano – porque a informação mais relevante passa a ser servida aos humanos numa travessa.”
Acemoglu (co-autor do influente Porque Falham as Nações e, mais recentemente, de Poder e Progresso – A Nossa Luta Milenar pela Tecnologia e Prosperidade) já algumas vezes avisou para riscos relacionados com a tecnologia.
Em Maio de 2024, um ano e meio após o lançamento do ChatGPT, mostrou-se céptico sobre os eventuais ganhos económicos permitidos pela tecnologia, contrariando a ideia de enormes saltos de produtividade que tem ajudado a justificar os investimentos elevados no sector. Nessa altura, calculou que os ganhos de produtividade seriam muito inferiores a 0,1% anuais ao longo de uma década, e que os contributos para o PIB mundial não iriam além dos 1,56%, numa perspectiva mais optimista.
O argumento era o de que a proliferação da IA traria efeitos negativos, que em boa parte mitigariam os ganhos: “As novas tarefas criadas com IA podem aumentar significativamente a produtividade. Contudo, algumas das novas tarefas geradas por IA são manipulativas e podem ter um efeito social negativo, como os deepfakes, publicidade digital enganadora, redes sociais viciantes ou ataques informáticos maliciosos assentes em IA. Embora seja difícil pôr números nas tarefas novas boas e más, com base em investigação recente, sugiro que os efeitos negativos podem ser de monta.”
Como servidor público com mais de 16 anos de experiência, vejo a Inteligência Artificial como uma poderosa ferramenta que pode trazer inúmeros benefícios para nossa sociedade. No entanto, o recente alerta do Nobel da Economia sobre o risco de um “colapso do conhecimento” devido à IA nos faz refletir sobre a importância de utilizarmos essa tecnologia de forma responsável e ética.
É fundamental que as pessoas estejam cientes dos possíveis impactos da IA em nossas vidas e busquem compreender como podemos tirar o melhor proveito dela para melhorar a qualidade de vida de todos. A tecnologia está em constante evolução e cabe a nós utilizá-la de maneira consciente, pensando sempre no bem-estar coletivo.
Portanto, é essencial que busquemos formas de garantir que a IA seja utilizada de maneira ética e transparente, a fim de evitar possíveis consequências negativas. Vamos aproveitar o potencial da Inteligência Artificial para impulsionar o desenvolvimento da sociedade e promover avanços significativos em todas as áreas, sempre pensando no benefício comum. Que cada um de nós possa refletir sobre como podemos contribuir para uma utilização responsável da IA e garantir um futuro mais próspero e equilibrado para todos.