O Google tem lançado um trio de novos modelos de IA generativos “abertos” que ele chama de “mais seguros”, “menores” e “mais transparentes” do que a maioria — uma afirmação ousada, com certeza.
Eles são adições à família Gemma 2 de modelos generativos do Google, que estreou em maio. Os novos modelos, Gemma 2 2B, ShieldGemma e Gemma Scope, são projetados para aplicações e casos de uso ligeiramente diferentes, mas compartilham uma inclinação de segurança.
A série de modelos Gemma do Google é diferente de seus modelos Gemini, pois o Google não disponibiliza o código-fonte para Gemini, que é usado pelos próprios produtos do Google, além de estar disponível para desenvolvedores. Em vez disso, Gemma é o esforço do Google para promover a boa vontade dentro da comunidade de desenvolvedores, assim como o Meta está tentando fazer com o Llama.
Gemma 2 2B é um modelo leve para gerar texto de análise que pode ser executado em uma variedade de hardwares, incluindo laptops e dispositivos de ponta. Ele é licenciado para certas aplicações comerciais e de pesquisa e pode ser baixado de fontes como a biblioteca de modelos Vertex AI do Google, a plataforma de ciência de dados Kaggle e o equipment de ferramentas AI Studio do Google.
Quanto ao ShieldGemma, é uma coleção de “classificadores de segurança” que tentam detectar toxicidade como discurso de ódio, assédio e conteúdo sexualmente explícito. Construído sobre o Gemma 2, o ShieldGemma pode ser usado para filtrar prompts para um modelo generativo, bem como conteúdo que o modelo gera.
Por fim, o Gemma Scope permite que os desenvolvedores “ampliem” pontos específicos dentro de um modelo Gemma 2 e tornem seu funcionamento interno mais interpretável. Veja como o Google o descreve em uma postagem de weblog: “[Gemma Scope is made up of] redes neurais especializadas que nos ajudam a desempacotar as informações densas e complexas processadas pela Gemma 2, expandindo-as para uma forma mais fácil de analisar e entender. Ao estudar essas visões expandidas, os pesquisadores podem obter insights valiosos sobre como a Gemma 2 identifica padrões, processa informações e, finalmente, faz previsões.”
O lançamento dos novos modelos Gemma 2 ocorre brand após o Departamento de Comércio dos EUA endossar modelos de IA aberta em um relatório preliminar. Modelos abertos ampliam a disponibilidade de IA generativa para empresas menores, pesquisadores, organizações sem fins lucrativos e desenvolvedores individuais, disse o relatório, ao mesmo tempo em que destaca a necessidade de capacidades para monitorar tais modelos quanto a riscos potenciais.
