Após um relatório de Jornal de Wall Street que afirma que a OpenAI está sentada em uma ferramenta que pode detectar ensaios escritos pelo ChatGPT com um alto grau de precisão, a empresa compartilhou um pouco de informação sobre sua pesquisa em marca d’água de texto — e por que ela não lançou seu método de detecção. De acordo com Jornal de Wall RoadNo relatório da ‘s, o debate sobre se a ferramenta deveria ser lançada impediu que ela visse a luz do dia, apesar de estar “pronta”. Em uma atualização publicada no domingo para um relatório de maio postagem de blogavistado por TechCrunchOpenAI disse: “Nossas equipes desenvolveram um método de marca d’água de texto que continuamos a considerar enquanto pesquisamos alternativas.”
A empresa disse que a marca d’água é uma das várias soluções, incluindo classificadores e metadados, que ela analisou como parte de uma “extensa pesquisa na área de procedência de texto”. De acordo com a OpenAI, ela “tem sido altamente precisa” em algumas situações, mas não tem um desempenho tão bom quando confrontada com certas formas de adulteração, “como usar sistemas de tradução, reformular com outro modelo generativo ou pedir ao modelo para inserir um caractere especial entre cada palavra e então excluir esse caractere”. E a marca d’água de texto pode “impactar desproporcionalmente alguns grupos”, escreveu a OpenAI. “Por exemplo, pode estigmatizar o uso de IA como uma ferramenta de escrita útil para falantes não nativos de inglês”.
De acordo com a postagem do weblog, a OpenAI vem ponderando esses riscos. A empresa também escreveu que priorizou o lançamento de ferramentas de autenticação para conteúdo audiovisual. Em uma declaração para TechCrunchum porta-voz da OpenAI disse que a empresa está adotando uma “abordagem deliberada” para a procedência do texto devido às “complexidades envolvidas e seu provável impacto no ecossistema mais amplo além da OpenAI”.
