Um utilizador do LinkedIn demonstrou como um passaporte falsificado, gerado através do ChatGPT-4o, passou com sucesso por um processo de verificação de identidade digital. A experiência gerou um intenso debate entre os profissionais de cibersegurança e lançou sérias dúvidas sobre a fiabilidade contínua dos protocolos tradicionais de “Conheça o Seu Cliente” (KYC).
O empreendedor tecnológico e investidor de risco Borys Musielak criou o passaporte falsificado em poucos minutos e partilhou o resultado no seu perfil de LinkedIn. O documento gerado era tão convincente e realista que veio mostrar como os sistemas de verificação de identidade estão vulneráveis a ataques gerados por IA generativa.
a d v e r t i s e m e n t
Normalmente, as falsificações geradas por IA são facilmente detectadas devido a inconsistências de formatação, baixa fidelidade tipográfica ou erros na zona legível por máquina. No entanto, a falsificação de Musielak parecia quase indistinguível de um passaporte legítimo. Os observadores notaram que o processo de falsificação de documentos se tornou significativamente mais rápido e acessível.
Embora o passaporte fabricado provavelmente não resistisse a uma análise devido à ausência de um chip, provou ser suficiente para contornar os procedimentos KYC mais básicos.
Novos perigos que a IA consegue trazer
Musielak enfatizou o risco crescente do roubo de identidade para fins de pedidos de crédito fraudulentos ou criação de contas fictícias. A escalabilidade possibilitada pela IA generativa permite que agentes mal-intencionados realizem ataques abrangentes a bancos, criptomoedas e outras infra-estruturas financeiras.
Curiosamente, apenas 16 horas após a publicação inicial de Musielak, as tentativas de replicar a experiência falharam. O ChatGPT recusou-se a gerar um passaporte falso, alegando protocolos de segurança e restrições à criação de documentos falsificados.
Fonte: Sapo