Dans la plupart des cas, le même schéma se répète selon la militante Bang Seo-yoon, qui a commencé à documenter des témoignages de victimes.
Des collégiens ou lycéens utilisent des photos piochées sur des comptes Instagram pour générer du contenu pornographique par IA qu'ils partagent ensuite à travers des salons de discussion, dans le but d'humilier des camarades de classe et des enseignantes.
Selon la militante de 18 ans, "ce n'est pas seulement le mal causé par le +deepfake+ lui-même, mais la diffusion de ces vidéos parmi les connaissances qui est encore plus humiliante et douloureuse", confie-t-elle à l'AFP.
Selon la start-up de cybersécurité Security Hero, le nombre de ces montages à base d'IA a augmenté de 500% en 2023 et 99% des victimes sont des femmes, souvent des chanteuses et actrices célèbres.
Cette année, d'importants labels de K-pop, JYP Entertainment et ADOR, qui gèrent notamment les groupes Twice et NewsJeans, ont annoncé vouloir lancer des actions en justice pour protéger leurs artistes.
Mais peu d'affaires aboutissent: entre 2021 et juillet 2024, 793 délits liés aux "deepfakes" ont été signalés, mais seulement 16 personnes ont été arrêtées et poursuivies, selon les données de la police.
Les plaintes se sont néanmoins multipliées après l'éclatement du scandale, avec 118 dépôts en seulement cinq jours fin août et sept personnes arrêtées dans le cadre d'une opération menée par la police. Une seule d'entre elles était majeure.
Sanctions "insignifiantes"
Les poursuites sont compliquées par le fait que les tribunaux sud-coréens délivrent rarement des mandats d'arrêt pour les mineurs.
Et "les peines prononcées sont souvent insignifiantes, comme des amendes ou des mises à l'épreuve, qui sont disproportionnées par rapport à la gravité des délits", souligne la professeure de philosophie et militante féministe Yoon Kim Ji-young, interrogée par l'AFP.
Selon elle, le mépris du président Yoon Suk Yeol pour le féminisme, auquel il attribue le faible taux de natalité en Corée du Sud, suggère aux hommes qu'il est "acceptable d'être hostile ou discriminatoire envers les femmes".
Les victimes se retrouvent "insultées sexuellement et moquées par leurs camarades de classe dans les espaces en ligne", explique Kang Myeong-suk, responsable de l'aide aux victimes à l'Institut des droits humains de la Femme de Corée (WHRIK).
"Les auteurs de ces actes ne subissent souvent aucune conséquence" tandis que les victimes vivent "dans la crainte de voir leurs images manipulées diffusées par leur entourage".
Certains commentent en ligne que les victimes devraient "+s'en remettre+ car ces images truquées ne sont même pas réelles", développe Mme Kang.
"Mais ce n'est pas parce que les images manipulées ne sont pas réelles que la douleur endurée par les victimes est moins authentique".
Rejet de la faute
La police sud-coréenne rejette la faute sur Telegram, réputée pour sa réticence à coopérer avec les autorités. Son fondateur Pavel Durov a été arrêté et inculpé fin août en France en raison de la publication de contenus illégaux sur l'application.
La messagerie cryptée s'était déjà retrouvée au coeur d'un précédent scandale de violences et d'exploitation sexuelles en Corée du Sud: l'affaire "Nth Room", en 2020.
Des salons de discussion Telegram permettaient à des membres qui avaient payé de visionner des photos et vidéos d'actes sexuels violents, obtenues par chantage et impliquant notamment des mineures.
Le meneur de ce réseau a été incarcéré.
La victime d'un "deepfake" diffusé en 2021, ayant requis l'anonymat, affirme à l'AFP que l'excuse de la police selon laquelle le faible taux de poursuites serait dû au manque de coopération de Telegram n'est pas valable, de nombreuses victimes parvenant à identifier elles-mêmes leurs persécuteurs.
Le sien était un camarade de promotion de l'Université nationale de Séoul qu'elle avait rarement côtoyé mais toujours trouvé "gentil".
"Cela a été difficile à accepter", raconte-t-elle, ajoutant que la police lui avait demandé de rassembler elle-même toutes les preuves, puis qu'elle avait dû faire pression pour obtenir un procès, qui est actuellement en cours.
