Uma pesquisa realizada pela plataforma alemã Agora Digitale Transformation, sob a liderança do pesquisador Benjamin Schulz, analisou 200 domínios conhecidos por hospedar pornografia em formato deepfake. Durante a análise dos nomes de todos os deputados do Parlamento Europeu, foram descobertos 50 casos, dos quais 46 envolveram mulheres e abrangiam sete das oito grupos do Parlamento Europeu.
Desses 50 casos, há tanto materiais acessíveis diretamente quanto links para aplicativos de fotos de nudez, além de conteúdo indexado de sites que foram removidos por ordem judicial.
O documento não revela os nomes dos deputados afetados, mas alguns, como Lena Schilling do partido Verde alemão, decidiram falar publicamente sobre suas experiências. Schilling declarou em uma coletiva de imprensa: «Estou tão indignada que preciso falar sobre isso. Imagine chegar ao trabalho, abrir o notebook e encontrar suas fotos nuas na internet, fotos que você nunca tirou. Foi exatamente isso que aconteceu comigo e com muitas outras mulheres. É um sentimento terrível».
Em outro relatório, a Agora Digitale Transformation também estudou o impacto da pornografia deepfake nos membros dos parlamentos nacionais europeus, onde foram identificados 147 casos, sendo 138 deles envolvendo mulheres.
Tanto os deputados do Parlamento Europeu quanto o relatório apontam para um efeito intimidatório que a existência dessas imagens pode exercer sobre jovens mulheres na vida pública. De acordo com a organização de direitos humanos Hate Aid, cerca de 22% dos políticos consideram deixar seus cargos após sofrer violência digital.
Os pesquisadores observam que os deepfakes sexualizados não são tanto um novo fenômeno tecnológico, mas sim uma nova ferramenta para um problema antigo: a violência contra as mulheres. Eles enfatizam que as tendências de sua análise têm as mesmas raízes misóginas que o assédio e o bullying offline.
Os pesquisadores alertam que, embora a inteligência artificial generativa não tenha criado este fenômeno, ela tornou sua produção mais rápida, barata e significativamente mais difícil de ser detectada. O relatório destaca que a legislação europeia sobre 'pornografia deepfake' é insuficiente para proteger as vítimas, pois só entra em vigor depois que o dano já foi causado e depende do que as próprias vítimas encontrarem e denunciarem.
Além disso, observa-se que a maioria dos requisitos legais 'se aplica apenas a grandes plataformas online, enquanto a maior parte do dano ocorre em sites pequenos e frequentemente offshore'. Vítimas e pesquisadores estão focados em 2 de dezembro — o prazo final para que as plataformas se adaptem às últimas alterações na lei de inteligência artificial, que proíbe sistemas de IA que geram material de abuso sexual infantil ou criam conteúdo mostrando partes íntimas de uma pessoa identificável ou atos sexualmente explícitos sem seu consentimento. Schilling enfatizou: «Não pode haver lacunas ou atrasos».