A OpenAI, organização líder em inteligência artificial, anunciou um avanço significativo no controle de conteúdos gerados por IA, ao desenvolver uma marca d’água digital invisível capaz de identificar textos produzidos pelo seu modelo de linguagem conversacional, o ChatGPT. Apesar da inovação, a empresa hesita em liberar a ferramenta publicamente devido a preocupações éticas e técnicas.
Segundo relatórios, a marca d’água aplicada pela ferramenta é quase imperceptível aos olhos humanos, garantindo que a qualidade da escrita gerada pela IA não seja prejudicada. Testes internos revelaram uma eficácia de 99,9% na identificação de textos originados do ChatGPT. Contudo, a OpenAI tem reservas sobre o lançamento público dessa novidade tecnológica.
Um dos desafios enfrentados pela ferramenta é que ela não é capaz de detectar textos gerados por outros modelos de linguagem, como o Gemini AI ou o Llama 3. Além disso, existem métodos simples para contornar a marca d’água, como traduzir o texto para outra língua e retornar ao inglês ou pedir que outro modelo de IA reformule completamente o texto.
A preocupação com a possibilidade de a ferramenta produzir falsos positivos e ser tendenciosa contra escritores que não falam inglês como primeira língua também contribui para a hesitação da OpenAI. Há receios de que isso possa levar a acusações injustas de trapaça, como observado em uma situação onde um professor acusou incorretamente uma classe inteira de usar conteúdo gerado por IA.
Em face das hesitações, um levantamento realizado pela OpenAI mostrou que uma considerável parcela de usuários do ChatGPT teme que a implementação da ferramenta de detecção possa resultar em falsas acusações. Alguns declarem inclusive que migrariam para outros modelos de linguagem se a detecção fosse implementada.
No entanto, a demanda por um detector de IA é alta, com dados apontando que 80% das pessoas em todo o mundo apoiam a existência de um detector confiável. Como uma organização pioneira no desenvolvimento de IA, a OpenAI reconhece sua responsabilidade de promover um uso ético das ferramentas de IA e está buscando alternativas à marca d’água de texto como forma de endereçar os desafios que enfrenta.
Em meio a incertezas sobre o futuro dessa tecnologia, especialistas e consumidores são lembrados da importância de manter uma postura crítica diante das informações consumidas, priorizando a veracidade e autenticidade do conteúdo, independente de sua origem ser humana ou artificial.
