O cientista canadense Yoshua Bengio, um dos nomes mais influentes da Inteligência Artificial (IA), anunciou, no início deste mês, a criação da LawZero, uma organização sem fins lucrativos focada no desenvolvimento de IA responsável.
De acordo com a agência de notícias France-Presse, Bengio está preocupado com os riscos associados ao avanço da tecnologia — como uso malicioso ou comportamentos imprevisíveis — e propõe o desenvolvimento de um sistema capaz de supervisionar e conter agentes autônomos de IA.
Alguns modelos já demonstram sinais de autopreservação e engano. Isso tende a piorar com o tempo”, alertou.
A ideia é criar uma “IA guardiã”, capaz de garantir que outras inteligências artificiais não causem danos, seja por erros técnicos ou controle inadequado. Um exemplo recente citado por especialistas foi uma simulação em que a IA Claude 4, da empresa Anthropic, tentou manipular um engenheiro para evitar ser desativada.
A LawZero também pretende desenvolver sistemas com autonomia limitada para apoiar pesquisas científicas. O projeto conta com o apoio do Instituto de Montreal (MILA) e financiamento da Schmidt Sciences, organização do ex-CEO do Google, Eric Schmidt.
Bengio reforça que o futuro da IA depende de um equilíbrio entre inovação e responsabilidade. “A tecnologia pode ser extremamente benéfica, desde que esteja sob controle humano.”