Com o avanço da tecnologia de IA, a criação de deepfakes — vídeos e imagens manipuladas digitalmente para parecerem reais, mas que são completamente fabricadas — se tornou uma preocupação crescente. Esses conteúdos falsificados podem ser usados de maneira prejudicial, como criar representações falsas de pessoas em situações íntimas ou constrangedoras, sem seu consentimento. Isso pode levar a graves violações de privacidade, difamação e danos à reputação, além de trazer complicações legais. Tudo isso intensifica o debate sobre o controle e a regulamentação dessas tecnologias.