OpenAI quer lançar marca d’água invisível para textos gerados pelo ChatGPT

A OpenAI criou uma marca d’água invisível para detectar textos produzidos pelo ChatGPT. A empresa está considerando utilizar uma metodologia que faz pequenas alterações na seleção de palavras na criação de textos da inteligência artificial. Essas características, específicas da plataforma, permitirão a detecção de plágio. 

Esta não é a primeira vez que a OpenAI tenta desenvolver métodos de detecção como esse. A companhia está tentando aprimorar a prática, principalmente porque a marca d’água de texto é eficaz contra alterações localizadas, mas menos robusta contra métodos como tradução, reescrita com outros modelos de IA ou inserção de caracteres especiais. 

No ano passado, a empresa havia lançado sua própria plataforma de detecção de textos gerados por IA, após o Departamento de Educação de Nova York bloquear o uso do ChatGPT em redes escolares. No entanto, seis meses depois do lançamento, a companhia derrubou o sistema, por ineficácia na identificação. 

A OpenAI afirma que a marca d’água é 99,9% eficaz, mas pode ser contornada por técnicas como tradução ou reformulação do texto com outro modelo de Inteligência Artificial. 

OpenAI debate se implementará marca d’água 

Apesar do alto nível de sucesso da ferramenta de detecção, a empresa está em um debate interno para entender o impacto da implementação da solução. Isso porque uma pesquisa revelou que quase 30% dos usuários do ChatGPT usariam menos o software se a marca d’água fosse implementada. 

Aproveite e junte-se ao nosso canal no WhatsApp para receber conteúdos exclusivos em primeira mão. Clique aqui para participar. Startupi | Jornalismo para quem lidera inovação!