Pesquisadores na linha de frente da inteligência artificial e líderes de muitas das principais plataformas – de Geoffrey Hinton (conhecido como o “padrinho”da IA) a Yoshua Bengio (especialista em deep learning e redes neurais), passando por Demis Hassabis (DeepMind), Sam Altman (OpenAI), Dario Amodei (Anthropic) e Elon Musk (xAI) – têm manifestado preocupações de que a IA possa levar à destruição da humanidade.
Mesmo as probabilidades declaradas por alguns desses especialistas – que chegam a estimar em até 25% a chance de um cenário apocalíptico – ainda são “escandalosamente otimistas”, segundo Nate Soares, presidente do Machine Intelligence Research Institute (Instituto de Pesquisa em Inteligência de Máquina/ MIRI) e coautor do recente best-seller “If Anyone Builds It, Everyone Dies“ (“Se alguém construir, todos morrem”, em tradução livre).
Isso porque, como ele argumenta no livro, a trajetória atual da IA caminha para o desastre, a menos que algo mude de forma radical. A obra, escrita em coautoria com o pesquisador Eliezer Yudkowsky, explora as ameaças potenciais representadas pela chamada “superinteligência”, sistemas teóricos de IA mais inteligentes do que os humanos.
“Estamos meio que criando essas IAs que agem de formas que ninguém pediu, que desenvolvem impulsos e comportamentos emergentes que ninguém pretendia”, afirmou Soares no World Changing Ideas Summit, evento realizado em novembro e coorganizado pela Fast Company e pela Universidade Johns Hopkins, em Washington, D.C.
“Se chegarmos a IAs superinteligentes que estejam perseguindo objetivos que ninguém quis, acho que o resultado é que literalmente todo mundo na Terra morre”, acrescentou.
EFEITOS NEGATIVOS DA CORRIDA DA IA
Comparando o trabalho de alguns líderes de IA a construir um avião enquanto ele já está voando, sem trem de pouso, Soares disse que não se dá atenção suficiente aos possíveis efeitos negativos da tecnologia.
O volume de investimentos globais direcionados à IA mostra que as pessoas estão apostando que ela não será um “fracasso total”, afirmou.
Mas, segundo ele, existem outras duas opções igualmente “malucas”: a IA automatiza radicalmente todo o trabalho humano, fazendo com que a economia fique concentrada nas mãos de um grupo muito pequeno, ou ela se torna superinteligente e mata todo mundo.
“O mundo ainda não entendeu de verdade o quão maluca é essa história de IA”, disse Soares.
Ainda assim, há algum motivo para otimismo, segundo ele. Muitas pessoas estão preocupadas com o futuro dessa tecnologia, o que torna a situação “frágil” se mais gente – todos nós, inclusive – passar a expressar essas preocupações.
“Talvez, se pessoas suficientes começarem a dizer ‘espere aí, o que estamos fazendo mesmo? Que diabos é isso?’, talvez isso sacuda o mundo inteiro a ponto de dizermos ‘meu Deus, precisamos mudar de rumo’.”