Vivemos tempos desafiantes no que toca à veracidade da informação. Atualmente, é simples criar imagens falsas com Inteligência Artificial (IA) que enganam facilmente os utilizadores. Para combater este problema, a Google está a reforçar a transparência do conteúdo digital. Na aplicação Gemini, já é possível detetar se um vídeo foi criado ou modificado através das ferramentas de IA da tecnológica.
Vídeos criados por IA são um problema
Numa altura em que os vídeos gerados por modelos computacionais se tornam quase indistinguíveis dos captados por humanos, a Google integra diretamente no Gemini uma funcionalidade de verificação. Esta ferramenta analisa conteúdos criados pelos seus próprios modelos de IA.
O processo é simples: o utilizador carrega um vídeo para o Gemini e questiona se o conteúdo foi gerado ou editado por IA. O chatbot analisa o ficheiro à procura da SynthID, uma assinatura digital invisível que a Google incorpora no seu conteúdo sintético.
A deteção não se limita ao aspeto visual. O Gemini examina também as faixas de áudio. Assim, consegue determinar se um segmento de som foi gerado por IA, mesmo que a imagem seja real, ou vice-versa.
Gemini da Google já consegue detetar
A resposta fornecida pela aplicação inclui contexto, especificando quais as secções afetadas. Contudo, existem limitações técnicas: os ficheiros enviados não podem exceder os 100 MB ou os 90 segundos de duração.
Até agora, a Google já disponibilizava a verificação de imagens. O suporte para vídeo é uma adição crucial, dado que os deepfakes em redes sociais podem ter consequências graves. É importante notar, porém, que esta ferramenta identifica apenas conteúdos criados pelas tecnologias da Google.
Vídeos produzidos por outras plataformas, como o Sora ou ferramentas da OpenAI, que não possuam a marca de água SynthID, não serão detetados. A Google apresenta esta funcionalidade como um passo em direção à transparência, e não como uma solução infalível.