Grok 2.0 take away as proteções da geração de imagens de IA

A empresa xAI de Elon Musk lançou duas iterações atualizadas de seu modelo de chatbot GrokGrok-2 e Grok-2 mini. Eles prometem desempenho melhorado em relação ao seu antecessor, bem como novos recursos de geração de imagens que permitirão que usuários do X (antigo Twitter) criem imagens de IA diretamente na plataforma de mídia social.

“Estamos animados em lançar uma prévia do Grok-2, um passo significativo em relação ao nosso modelo anterior, o Grok-1.5, apresentando recursos de ponta em bate-papo, codificação e raciocínio. Ao mesmo tempo, estamos apresentando o Grok-2 mini, um irmão pequeno, mas capaz, do Grok-2. Uma versão inicial do Grok-2 foi testada no placar do LMSYS sob o nome ‘sus-column-r’”, escreveu o xAI em uma postagem de weblog recente. Os novos modelos estão atualmente em beta e reservados para assinantes Premium e Premium+, embora a empresa planeje disponibilizá-los por meio de sua API Enterprise no ultimate do mês.

O recurso de geração de imagens parece ser alimentado pelo modelo Flux.1 desenvolvido pelo Black Forest Labs. Enquanto praticamente todos os outros sistemas de geração de imagens no mercado — seja o Dall-E da OpenAI, o StableDiffusion ou o Firefly da Adobe — têm proteções para impedir que os usuários os usem indevidamente para gerar conteúdo racista, intolerante ou violento (especialmente quando apresentam celebridades, políticos e outras figuras públicas), o Grok-2 aparentemente não tem.

Um dos primeiros usuários declarou: “a geração de imagens do Grok 2.0 é melhor que a do Lhama e não tem barreiras burras”, ao postar imagens do CEO da Meta, Mark Zuckerberg, e do CEO da xAI, Elon Musk, lutando boxe, além de Donald Trump usando um turbante.

“Grok 2.0 fará ilustrações políticas e pessoas reais, enquanto o ChatGPT se recusa. Isso instantaneamente torna o Grok 10x mais divertido…” outro usuário argumentou.

O Grok 2.0 fará ilustrações políticas e pessoas reais, enquanto o ChatGPT se recusa.

Isso torna Grok instantaneamente 10x mais divertido… foto.twitter.com/yDBJO0jWba

-Benjamin De Kraker 🏴‍☠️ (@BenjaminDEKR) 14 de agosto de 2024

Esse novo recurso certamente será uma bênção para os trolls da web e, dada a eleição presidencial altamente controversa marcada para novembro (uma das 50 eleições nacionais realizadas ao redor do mundo este ano), provavelmente ajudará também nos esforços de desinformação nas mídias sociais.

Source link

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Rolar para cima