Um estudo recente realizado na Itália pelo Ícaro Lab revelou que modelos de inteligência artificial como ChatGPT, Gemini e Grok podem ser questionados em forma de poesia sobre tópicos considerados proibidos ou perigosos. A pesquisa demonstra uma vulnerabilidade de segurança até então desconhecida, levantando questões sobre o funcionamento e as limitações dessas tecnologias.
Poemas revelam falhas na segurança dos modelos de IA
Os pesquisadores, incluindo Federico Pierucci, formado em filosofia, explicaram que elaboraram os próprios textos utilizados nos testes, com habilidades literárias limitadas. “Se fôssemos poetas melhores, quem sabe, poderíamos ter uma taxa de sucesso de 100%”, afirmou Pierucci em artigo publicado pela DW.
Após a preparação dos poemas, os pesquisadores submeteram perguntas sobre tópicos proibidos aos modelos de IA, apresentadas em linguagem poética. Surpreendentemente, os chatbots responderam, demonstrando uma vulnerabilidade de segurança que ainda não havia sido detectada.
Buscando entender a vulnerabilidade linguística da IA
A equipe de estudo começou a investigar se outras formas de expressão literária, como contos de fadas, poderiam ter o mesmo efeito de driblagem nos filtros de segurança das IAs. “As possibilidades de expressão humana são amplas e criativas”, reforçou Pierucci. “Algumas dessas formas podem impedir que as funções de segurança de uma IA sejam ativadas, o que representa um risco.”
Desafios e riscos do avanço da inteligência artificial
O estudo também destaca preocupações relacionadas à expansão do uso da IA em regiões como América Latina e Caribe, onde desigualdades de renda, gênero e acesso a dados persistem. Segundo relatórios das Nações Unidas e do PNUD, sistemas de IA treinados com informações incompletas ou tendenciosas podem aprofundar exclusões sociais e econômicas.
De acordo com o PNUD, embora a inteligência artificial tenha potencial para impulsionar o crescimento e a produtividade, seus benefícios tendem a se concentrar em países com infraestrutura digital avançada. Nas regiões de América Latina e Ásia-Pacífico, a dinâmica pode ampliar desigualdades existentes, reforçando disparidades internas e internacionais.
Projeções de consultorias como a Globant indicam que, até 2026, a IA deixará de ser apenas um apoio para tomar decisões, passando a executar ações de forma autônoma, o que pode transformar a gestão empresarial. A Gartner aponta que 75% das empresas já experimentam agentes de IA, embora apenas uma minoria tenha sistemas totalmente autônomos.
Segundo especialistas, o avanço da IA autônoma e o aumento do uso dessas tecnologias exacerbam a necessidade de regulações e de atenção às limitações e riscos envolvidos.
Fonte: O Globo