Cerebras lança ferramenta de inferência de IA para desafiar a Nvidia — TradingView News

A Cerebras Systems lançou na terça-feira uma ferramenta para desenvolvedores de IA que lhes permite acessar os chips gigantes da startup para executar aplicativos, oferecendo o que ela diz ser uma opção muito mais barata do que os processadores Nvidia NVDA, padrão da indústria.

Acesso às unidades de processamento gráfico Nvidia(GPUs) – geralmente por meio de um provedor de computação em nuvem – treinar e implantar grandes modelos de inteligência artificial usados para aplicativos como o ChatGPT da OpenAI pode ser difícil de obter e caro de executar, um processo que os desenvolvedores chamam de inferência.

“Estamos entregando um desempenho que não pode ser alcançado por uma GPU”, disse o presidente-executivo da Cerebras, Andrew Feldman, à Reuters em uma entrevista. “Estamos fazendo isso com a mais alta precisão e oferecendo pelo menor preço.”

Espera-se que a parte de inferência do mercado de IA seja de rápido crescimento e atraente — valendo, em última análise, dezenas de bilhões de dólares se consumidores e empresas adotarem ferramentas de IA.

A empresa sediada em Sunnyvale, Califórnia, planeja oferecer vários tipos de produtos de inferência por meio de uma chave de desenvolvedor e sua nuvem. A empresa também venderá seus sistemas de IA para clientes que preferem operar seus próprios data centers.

Os chips da Cerebras — cada um do tamanho de um prato de jantar e chamados Wafer Scale Engines — evitam um dos problemas com o processamento de dados de IA: os dados processados por grandes modelos que alimentam aplicativos de IA normalmente não cabem em um único chip e podem exigir centenas ou milhares de chips conectados.

Isso significa que os chips da Cerebras podem atingir desempenhos mais rápidos, disse Feldman.

A empresa planeja cobrar dos usuários apenas 10 centavos por milhão de tokens, que são uma das maneiras pelas quais as empresas podem medir a quantidade de dados de saída de um modelo grande.

A Cerebras pretende abrir o capital e entrou com um prospecto confidencial na SEC, órgão que regula o mercado de capitais nos EUA neste mês, disse a empresa.