2024 brachte der Prozess gegen Dominique Pélicot und seine Mitangeklagten ans Licht, welche Rolle digitale Räume bei Gewalt gegen Frauen spielen, insbesondere die Plattform Coco. Bei der Recherche nach weiteren solcher Räume stießen wir auf ein Tool, das von Männern genutzt wird, um Frauen virtuell zu erniedrigen und ihr Ansehen real zu schädigen: KI-generierte Deepfake-Pornos.
Frauen als Hauptopfer von Deepfakes
Die Entwicklung der Künstlichen Intelligenz hat die Erstellung von Deepfakes erheblich erleichtert. Die Cybersicherheitsexperten von „Security Hero“ analysierten 2023 ganze 95.820 Deepfake-Videos und stellten dabei fest, dass lustige KI-Filmchen nur die Spitze des Eisbergs sind. 98 % der online gestellten Deepfakes sind sexueller Natur und richten sich praktisch exklusiv an ein Publikum: 99 % der Opfer pornografischer Manipulationen sind Frauen.
Falsche Videos, echte Profite
Bei unserer Recherche tat sich uns ein ganzes Deepfake-Ökosystem auf. Manche Websites haben sich auf den Austausch von Gesichtern spezialisiert und werden genutzt, um das Gesicht einer Frau auf den Körper einer Pornodarstellerin zu montieren. Auf anderen Seiten, so genannten Nudifiern, kann man Frauen virtuell entkleiden. Wir haben uns durch hunderte solcher Tools geklickt, die alle ein Ziel haben: Frauen zu erniedrigen und damit Geld zu machen. Zwar locken die meisten Websites ihre Neukunden mit einem kostenlosen Test, doch wer mehr will, muss ein Abo abschließen oder Credits kaufen.
Das US-amerikanische Magazin „Indicator“ hat sich mit dem wirtschaftlichen Aspekt der Deepfakes befasst. Allein die Nudifier-Websites machen insgesamt schätzungsweise einen Jahresumsatz von bis zu 36 Millionen Dollar.
Telegram, Katalysator der Deepfake-Wirtschaft
Unsere Recherche führte uns erneut zum Messaging-Dienst Telegram. 2024 wurde Südkorea durch die Enthüllung erschüttert, dass Telegram-Gruppen Deepfakes von lokalen Prominenten erstellt und verbreitet hatten. Wir entdeckten in Europa ähnliche Gruppen, deren Mitglieder Werbung für Deepfake-Websites machen. Wir haben sämtliche Gruppen der Telegram-Moderation gemeldet.
In ebendiesen Gruppen stießen wir auf Diskussionsforen, in denen Männer echte Fotos und Videos von Frauen aus ihrem Umfeld, manchmal sogar aus der eigenen Familie teilten. Wir konnten mehrere Opfer ausfindig machen. Sie versicherten uns allesamt, dass die Manipulationen ohne ihr Einvernehmen erstellt worden waren.
Studien über Deepfakes:
Presse:
Podcast:
Dokumentarfilme:
