En 2024, le procès de Dominique Pélicot a mis au jour le rôle des espaces numériques dans les violences faites aux femmes, notamment celui de la plateforme Coco. En cherchant d’autres environnements utilisés par certains hommes pour dégrader l’image des femmes, nous avons découvert des outils très utilisés : les générateurs de deepfakes par intelligence artificielle.
Les femmes, victimes privilégiées des auteurs de deepfakes :
Le développement de l’intelligence artificielle a considérablement facilité la création de deepfakes. Le groupe d’experts en cybersécurité Security Hero a analysé 95 820 vidéos deepfake en 2023. Ils ont découvert que les détournements humoristiques n’étaient que la face émergée de l’iceberg. En réalité, 98% des deepfakes mis en ligne sont à caractère sexuel. Et ce type de vidéos ne vise pratiquement qu’un seul public : 99% des personnes victimes de ces deepfakes pornographiques sont des femmes.
Fausses vidéos, vrais profits :
Nous avons ensuite découvert tout un écosystème du deepfakes. Entre les sites spécialisés dans l’échange de visage - souvent utilisés pour mettre le visage d’une personne sur le corps d’une actrice de films pornographiques - et les sites proposant de dévêtir des personnes sur photo, nous avons navigué sur une centaine d’outils n’ayant pour but que de détourner l’image des femmes. Si la majorité de ces sites attire les premiers clients avec un test gratuit, il faut bien souvent souscrire à un abonnement ou acheter des crédits pour détourner plusieurs photos ou réaliser des trucages plus poussés.
La revue américaine Indicator s’est intéressée à ce commerce du fake. Pour les seuls nudifiers - les sites qui proposent de dénuder des femmes à partir d’une photo - les chercheurs ont estimé que l’ensemble de ces sites pouvait réaliser jusqu’à 36 millions de dollars par an de chiffre d’affaires.
Telegram, le catalyseur de l’économie du deepfake :
Cette enquête nous a de nouveau menés sur la messagerie Telegram. En 2024, la Corée du Sud a été secouée par la révélation de l’existence de groupes Telegram destinés à la créations et la diffusion de deepfakes sur les célébrités locales.
Nous avons découvert des groupes européens similaires. Les membres y font la promotion des sites de création de deepfakes. Chaque groupe découvert a été signalé à la modération de Telegram.
Dans ces mêmes groupes, nous avons également découvert des discussions dans lesquelles les hommes se partagent des photos et vidéos bien réelles de femmes de leur entourage, parfois de leur propre familles. Nous avons pu retrouver plusieurs victimes de cette pratique. Elles nous ont assurées qu’elles n’étaient pas consentantes.
Études réalisées sur les deepfakes :
Presse généraliste :
Podcast :
Documentaire :
