A inteligência artificial colocando em xeque a confiabilidade da ciência – Jornal da USP

Nesta edição da coluna Observatório da Inovação, Glauco Arbix mira num problema que considera grave: vícios e práticas mal intencionadas viabilizados por recursos da própria inteligência artificial. Ele chama a atenção para erros flagrantes em artigos científicos, os quais estão chamando cada vez mais atenção de editoras e de pesquisadores. “Pois bem, recentemente, uma grande editora flagrou um artigo que começava com a seguinte frase: ‘Certamente aqui está uma possível introdução ao seu tópico”, um estilo típico do ChatGPT […]poucos poderiam imaginar  que esse tipo de prática estava penetrando silenciosamente no mundo da pesquisa científica. Entidades especializadas em rastrear erros e problemas em estudos científicos estão começando a identificar uma onda de equívocos , de problemas e de fraudes desse tipo, que pode dificultar a confiabilidade da própria ciência”, constata.

Há pouco tempo, uma revista acadêmica de reputação acabou retirando de circulação um artigo assim que começou a receber denúncias  da participação da inteligência artificial no processo, o mesmo tendo ocorrido com uma outra outra grande editora britânica, que identificou um artigo claramente sugerido por um modelo generativo. “Veja, a preocupação não é com os fatos isolados, mas é com a possibilidade de que os pesquisadores estejam cada vez mais incorporando esses modelos e práticas ruins em suas pesquisas e artigos. A University College London  rastreou milhões de artigos científicos e identificou que pelo menos 60 mil artigos, só em 2023,  foram publicados com base em algum tipo de recurso em IA”.

A preocupação, segundo Arbix,  é que  os recursos de IA  possam patrocinar uma indústria de artigos de baixa qualidade, plagiados ou falsos, porque não têm comprovação alguma. “O que nós temos que saber é que as Universidades têm o dever de acelerar a educação desses pesquisadores:  professores, alunos e funcionários precisam saber que esse tipo de atitude é inaceitável. E as Universidades, as agências de fomento e  as revistas precisam “se armar” com  recursos para coibir, para impedir práticas desse tipo, sob pena da gente corroer a reputação da ciência, que é a trincheira da racionalidade, que é uma instituição confiável e construída ao longo, muitas vezes, de séculos”.

.