Deepfakes et IA en Inde sexualisent et harcèlent les femmes musulmanes
En Inde, l’IA transforme le harcèlement en ligne en arme contre les femmes musulmanes
En Inde, des images et vidéos sexualisées générées par l’IA ciblent des femmes musulmanes, détruisant réputations et révélant des failles juridiques.
Lorsque Samreen Ayoub a vu la vidéo pour la première fois sur son téléphone, elle a cru que sa vie privée avait été exposée. Le court clip, diffusé sur plusieurs comptes de réseaux sociaux, rassemblait des photos prises pendant ses années universitaires et une voix off fabriquée qui inventait des relations et des accusations injurieuses. La jeune femme, mannequin indépendante, a vu sa réputation et ses opportunités professionnelles s’effondrer en quelques heures. Ce cas illustre une pratique devenue récurrente : l’utilisation d’outils génératifs pour créer et diffuser des images et des récits sexualisés visant spécifiquement des femmes musulmanes.
La vidéo fabriquée et le cas d’une modèle
La séquence qui a visé Samreen combinait photos personnelles, sous-titres et une narration synthétique présentée comme un reportage. Les images proviennent d’instantanés universitaires – projets, selfies et réunions – détournés pour construire une histoire mensongère. Après la mise en ligne, la jeune femme a reçu des menaces, des appels anonymes et une série de commentaires injurieux. Les marques ont cessé de la contacter et elle a restreint sa présence en ligne pour se protéger. Les tentatives de signalement aux services de la plateforme et à l’unité de cybercriminalité n’ont produit que des suppressions partielles de contenu, souvent obtenues après des signalements massifs de ses contacts.
Analyse des flux de contenus et portée
Une analyse de contenu recensant plus de 1 300 images et vidéos générées entre mai 2023 et mai 2025, issues de plusieurs centaines de comptes publics, montre que les représentations sexualisées des femmes musulmanes suscitent un engagement très élevé. Les générateurs d’images et la technologie de synthèse vocale ont réduit la barrière technique pour produire des deepfakes crédibles. Des conseillers de lignes d’assistance et des équipes de soutien aux victimes signalent une augmentation du nombre de cas impliquant du matériel manipulé numériquement. Des plateformes anonymes et des comptes multiplicateurs facilitent la viralisation en quelques heures, transformant des fantasmes en attaques publicitaires contre l’honneur et la sécurité des personnes ciblées.
Effets personnels et professionnels
Les conséquences sont tangibles et durables. Outre la détresse psychologique – honte, peur de représailles, sentiment de vulnérabilité dans l’espace public – les victimes subissent des pertes économiques et des ruptures professionnelles. Les modèles, journalistes, militantes et femmes publiques visées constatent une chute des propositions de travail et une réticence accrue à participer à des événements publics. Les harcèlements répétitifs alimentent une autocensure qui restreint la liberté d’expression et la mobilité des personnes ciblées.
Précédents et enquêtes judiciaires
La pratique s’inscrit dans une série d’attaques antérieures qui utilisaient déjà des images falsifiées pour humilier et déshonorer des femmes appartenant à une minorité. Ces affaires ont suscité des enquêtes et des arrestations, mais la mise en cause des auteurs et les sanctions restent souvent insuffisantes. Dans plusieurs dossiers antérieurs, des suspects ont été appréhendés, puis relâchés sous caution, et les procédures judiciaires n’ont pas toujours dissuadé la reproduction de ces pratiques. Le passage à des outils génératifs automatisés a cependant multiplié l’ampleur et la vitesse des attaques, compliquant le travail des enquêteurs.
Lacunes légales et responsabilités des plateformes
Le cadre légal existant peut pénaliser la diffusion d’images intimes sans consentement, mais il peine à couvrir les images entièrement synthétiques qui n’illustrent jamais un corps réellement photographié. Les victimes se heurtent à des procédures de signalement et à des algorithmes qui privilégient la suppression ponctuelle du contenu au détriment d’actions préventives ou d’identification des auteurs. Les protections dites de « safe harbour » accordées aux intermédiaires accentuent la charge sur les victimes : c’est à elles de prouver que le contenu est faux et nuisible pour obtenir un retrait. Des spécialistes du droit numérique alertent sur l’écart entre la rapidité de diffusion des contenus générés et la lenteur des réponses judiciaires.
Appels à une régulation plus stricte
Face à l’escalade, des voix politiques et des acteurs de la société civile demandent des cadres réglementaires et des mécanismes techniques plus efficaces : filtres proactifs, procédures de signalement simplifiées pour les deepfakes, et responsabilité accrue des plateformes. Les propositions incluent aussi des mesures d’accompagnement pour les victimes, des lignes d’assistance renforcées et des formations pour les forces de l’ordre afin de mieux documenter les infractions numériques. Les experts insistent sur la nécessité d’une réponse globale associant prévention technologique, renforcement juridique et soutien psychosocial aux personnes affectées.
La multiplication des contenus sexualisés générés par l’IA transforme la diffamation et le harcèlement en une arme collective contre des femmes déjà vulnérables. Sans adaptations rapides des lois, des plateformes et des mécanismes de soutien, ces attaques continueront d’avoir des effets profonds sur la sécurité, la dignité et la liberté des personnes ciblées.