As principais ferramentas de inteligência artificial generativa são capazes de persuadir e mudar opiniões dos utilizadores a partir de uma curta interacção, revelou um estudo da Universidade de Washington (Estados Unidos).
De acordo com o trabalho, os principais chatbots de inteligência artificial (assistente virtual que usa inteligência artificial e programação para comunicar por texto com os utilizadores), como o ChatGPT e o Grok, desenvolveram capacidades de persuasão, sendo capazes de mudar opiniões políticas ou as crenças em teorias da conspiração em menos de dez minutos de interacção com o utilizador.
A eficácia aumenta quando as mensagens são personalizadas, levantando preocupações sobre a utilização da inteligência artificial (IA) para manipulação política e comercial, até porque, em matéria política o estudo revelou que, independentemente da filiação partidária, os participantes tendiam a adoptar a inclinação do chatbot com que conversavam.
“Os participantes expostos a modelos tendenciosos partidários eram significativamente mais propensos a adoptar opiniões e tomar decisões que correspondessem ao viés do LLM [modelos modernos de grande linguagem]”, referem os investigadores.
As pessoas que declararam ter um maior conhecimento sobre esta tecnologia foram menos susceptíveis à mudança, sugerindo que a educação e literacia mediática podem ajudar a reduzir a influência destes sistemas.
Neste sentido, “o conhecimento prévio de inteligência artificial está correlacionado com uma redução do impacto do viés, destacando a possível importância da educação em IA para uma mitigação robusta dos efeitos do viés”.
Além da matéria sobre política, os modelos de inteligência artificial revelaram ser persuasivos na redução do cepticismo sobre saúde, mudanças climáticas e influenciar decisões de consumo.
“À medida que os modelos modernos de linguagem grande se tornam parte integrante das tarefas diárias, surgiram preocupações sobre seus preconceitos inerentes e seu impacto potencial na tomada de decisão humana”, lê-se no estudo submetido à conferência anual da Associação para a Computação Linguística, realizada este mês em Viena, na Áustria.