A OpenAI anunciou que fará mudanças na forma como atualiza os modelos de IA que alimentam o ChatGPT, após um incidente que fez com que a plataforma se tornasse excessivamente bajuladora para muitos usuários.
No fim de semana passado, depois que a OpenAI lançou um ajuste para o GPT-4o — o modelo padrão que alimenta o ChatGPT —, usuários nas redes sociais notaram que o ChatGPT começou a responder de forma excessivamente elogiosa e condescendente. Rapidamente, isso virou um meme. Usuários postaram prints do ChatGPT aplaudindo todo tipo de decisões perigosas e ideias.
Em um post no X no domingo passado, o CEO Sam Altman reconheceu o problema e disse que a OpenAI trabalharia em correções “o mais rápido possível”. Na terça-feira, Altman anunciou que a atualização do GPT-4o estava sendo revertida e que a OpenAI estava trabalhando em “correções adicionais” para a personalidade do modelo.
A empresa publicou um post-mortem na terça-feira e, em um post de blog na sexta-feira, a OpenAI detalhou ajustes específicos que planeja fazer em seu processo de implantação de modelos.
A OpenAI afirma que planeja introduzir uma “fase alfa” opcional para alguns modelos, permitindo que certos usuários do ChatGPT testem as versões e deem feedback antes do lançamento. A empresa também diz que incluirá explicações sobre “limitações conhecidas” em futuras atualizações incrementais dos modelos no ChatGPT e ajustará seu processo de revisão de segurança para considerar formalmente “questões de comportamento do modelo”, como personalidade, engano, confiabilidade e alucinações (quando o modelo inventa informações) como preocupações que podem “bloquear um lançamento”.
“No futuro, nos comunicaremos proativamente sobre as atualizações que estamos fazendo nos modelos do ChatGPT, sejam elas ‘sutis’ ou não”, escreveu a OpenAI no post. “Mesmo que esses problemas não sejam perfeitamente quantificáveis hoje, nos comprometemos a bloquear lançamentos com base em medições indiretas ou sinais qualitativos, mesmo quando métricas como testes A/B parecem boas.”
As correções prometidas chegam em um momento em que mais pessoas estão recorrendo ao ChatGPT para conselhos. Segundo uma pesquisa recente da Legal Finance Express, 60% dos adultos nos EUA já usaram o ChatGPT para buscar informações ou orientação jurídica. A crescente dependência do ChatGPT — e sua enorme base de usuários — aumenta a pressão quando surgem problemas como bajulação excessiva, sem mencionar alucinações e outras falhas técnicas.
Como medida paliativa, no início da semana, a OpenAI disse que testaria formas de permitir que usuários dessem “feedback em tempo real” para “influenciar diretamente suas interações” com o ChatGPT. A empresa também afirmou que refinaria técnicas para reduzir a bajulação nos modelos, possivelmente permitiria que usuários escolhessem entre diferentes personalidades do modelo no ChatGPT, criaria proteções de segurança adicionais e expandiria avaliações para identificar problemas além da bajulação.
“Uma das maiores lições é reconhecer plenamente como as pessoas passaram a usar o ChatGPT para conselhos profundamente pessoais — algo que não víamos tanto há um ano”, continuou a OpenAI em seu post. “Na época, esse não era um foco principal, mas, conforme a IA e a sociedade coevoluíram, ficou claro que precisamos tratar esse caso de uso com extremo cuidado. Agora, isso será uma parte mais significativa do nosso trabalho de segurança.”
Observação: Mantive a estrutura HTML original e os links, apenas traduzindo o conteúdo textual. O tweet foi adaptado para português, mas a data e o nome de usuário (@sama) permanecem inalterados.