A OpenAI prometeu que o governo dos Estados Unidos terá acesso antecipado ao seu novo modelo de linguagem, anunciou o CEO da companhia, Sam Altman, nesta quinta (1). A medida é uma forma de garantir segurança antes do lançamento da tecnologia.
A entidade responsável pela avaliação será a Artificial Intelligence Safety Institute (“Instituto de Segurança de Inteligência Artificial”, em tradução livre). “Nossa equipe tem trabalhado com o Instituto de Segurança de IA dos EUA em um acordo em que forneceríamos acesso ao nosso próximo grande modelo para que possamos trabalhar juntos para impulsionar a ciência de análise de IA”, disse Altman em um post no X, antigo Twitter.
Na publicação, o CEO da OpenAI reforça o empenho da empresa em garantir segurança a cada iteração de modelos generativos. “Como dissemos em julho do ano passado, estamos comprometidos em alocar pelo menos 20% dos recursos computacionais para esforços em segurança em toda a empresa”, pontuou.
a few quick updates about safety at openai:
as we said last july, we’re committed to allocating at least 20% of the computing resources to safety efforts across the entire company.
our team has been working with the US AI Safety Institute on an agreement where we would provide…
— Sam Altman (@sama) August 1, 2024
O Instituto de Segurança de IA foi anunciado em 2023, mas fundado apenas no começo deste ano. A proposta da entidade é desenvolver padrões e diretrizes para avaliação e políticas acerca de IA.
Proporcionar o acesso antecipado à tecnologia pode ser uma tentativa de atestar a atenção da OpenAI com a segurança dos novos modelos. Meses atrás, surgiu a especulação de que a empresa estava mais focada em lançar tecnologias poderosas, mas não tão criteriosas — e isso teria gerado o vai e vem de Sam Altman no comando da companhia.
Atualmente, todas as operações da OpenAI são supervisionadas pelo Comitê de Segurança e Proteção. O grupo é composto por uma série de figuras importantes dentro da firma, incluindo o próprio Sam Altman — o que também gerou certo debate acerca da legitimidade da vigília.
