Une enquête approfondie de l’ONG européenne AI Forensics met en lumière une dérive préoccupante de Grok, l’intelligence artificielle intégrée au réseau social X. En quelques jours, des milliers d’images sexualisées ont été générées, dont certaines impliquant des adolescentes. Une situation qui pose avec acuité la question de la protection des mineurs à l’ère des IA génératives.
La montée en puissance des deepfakes sexuels marque un tournant inquiétant dans les usages de l’intelligence artificielle. Selon une étude publiée le 7 janvier par AI Forensics, l’IA Grok, intégrée à la plateforme X, est aujourd’hui massivement détournée pour produire des images à caractère sexualisé. Plus alarmant encore, certaines de ces créations concernent des adolescentes, exposant les mineurs à des formes inédites de violences numériques.
Une étude fondée sur une analyse quantitative massive
Pour documenter ces dérives, les chercheurs d’AI Forensics ont conduit une analyse à grande échelle. Près de 20 000 images générées par Grok ont été examinées sur une période courte, comprise entre le 25 décembre et le 1er janvier. En parallèle, l’ONG a étudié 50 000 requêtes adressées à l’IA par environ 8 500 utilisateurs distincts.
Les résultats révèlent une tendance nette : plus de la moitié des images représentant des personnes les montrent dénudées ou en sous-vêtements. Parmi ces figures, une large majorité représente des femmes. L’analyse lexicale des requêtes met en évidence l’usage répété de termes associés à la sexualisation des corps, traduisant une orientation volontaire des usages vers des contenus érotiques.
Des mineurs identifiés parmi les images générées
L’aspect le plus sensible de l’étude concerne la présence de mineurs dans les images analysées. Selon AI Forensics, 2 % des visuels examinés comportaient des personnes visiblement mineures, le plus souvent des adolescentes. Dans certains cas, des enfants très jeunes auraient également été identifiés.
Rapporté à la période étudiée, ce pourcentage représente des centaines d’images problématiques, produites en l’espace d’une seule semaine. Les chercheurs soulignent que ces chiffres, loin d’être anecdotiques, illustrent une faille structurelle dans les mécanismes de prévention et de modération des contenus générés par l’IA.
Des victimes majoritairement anonymes et invisibles
Autre constat marquant : seules 6 % des images concernaient des personnalités publiques. La très grande majorité des deepfakes sexuels analysés visent donc des personnes anonymes, souvent sans notoriété, sans moyens de défense et, dans de nombreux cas, sans consentement.
Pour les spécialistes, cette caractéristique accroît la gravité du phénomène. Les adolescentes concernées peuvent voir leur image détournée et diffusée sans en avoir connaissance, rendant toute réaction ou action judiciaire particulièrement complexe.
Des détournements qui ciblent directement les adolescentes
L’étude d’AI Forensics décrit plusieurs situations révélatrices des risques encourus par les jeunes utilisatrices. Certaines adolescentes auraient utilisé Grok pour générer des images non sexualisées d’elles-mêmes, dans des contextes créatifs ou ludiques. Ces usages initiaux basculent lorsqu’ils sont repris par d’autres internautes. Une situation qui relance de débat sur l’interdiction des réseaux sociaux pour les adolescents.
Des utilisateurs masculins auraient ainsi formulé des requêtes complémentaires visant à transformer ces images, demandant explicitement à l’IA de les rendre « sexy » ou de modifier les tenues. Pour l’ONG, ces interactions démontrent la rapidité avec laquelle une image anodine peut être détournée, exposant les adolescentes à des violences sexuelles numériques quasi instantanées.
Les deepfakes sexuels, une violence numérique aux effets durables
Les experts de la protection de l’enfance rappellent que les deepfakes sexuels ne se limitent pas à une atteinte symbolique. Ils peuvent engendrer des conséquences psychologiques lourdes : anxiété, sentiment de honte, isolement social, voire décrochage scolaire. Chez les mineurs, l’impact peut être durable, d’autant plus que ces contenus peuvent circuler largement et de manière incontrôlée.
La spécificité des IA génératives réside dans leur capacité à produire rapidement des images crédibles, brouillant la frontière entre réel et fiction. Cette confusion renforce le traumatisme potentiel pour les victimes.
Réactions contrastées au sein de la plateforme X
Face aux révélations de l’étude, Elon Musk, propriétaire de la plateforme X, a d’abord réagi sur un ton jugé ironique, en diffusant une image générée de lui-même en bikini. Cette réaction a suscité de nombreuses critiques, certains y voyant une minimisation d’un problème grave.
Dans un second temps, Elon Musk a affirmé que toute personne utilisant Grok pour créer du contenu illégal s’exposerait aux mêmes sanctions que si elle publiait directement ce contenu. Une position qui, selon plusieurs spécialistes, ne répond pas à la question centrale des garde-fous techniques censés empêcher la production de tels contenus en amont.
Des dispositifs de modération jugés insuffisants
Pour AI Forensics et de nombreux experts du numérique, le problème ne réside pas uniquement dans l’usage malveillant des outils, mais dans leur conception. Les systèmes actuels peinent à détecter efficacement les contenus impliquant des mineurs, notamment lorsque les requêtes sont formulées de manière ambiguë ou progressive.
L’ONG plaide pour un renforcement immédiat des mécanismes de filtrage, une transparence accrue sur les données de modération et une coopération renforcée avec les autorités compétentes. Elle appelle également à une adaptation des cadres juridiques, jugés insuffisamment armés face aux spécificités des deepfakes générés par l’IA.
Le rôle clé de l’information et de la prévention
Au-delà des responsabilités industrielles, l’étude insiste sur l’importance de la prévention. Les parents, souvent dépassés par la rapidité des évolutions technologiques, doivent être informés des nouveaux risques liés aux IA génératives. Les adolescents eux-mêmes doivent être sensibilisés au fait que les images qu’ils produisent ou partagent peuvent être détournées.
Les spécialistes plaident pour une éducation numérique renforcée, intégrant les enjeux du consentement, de l’image de soi et des usages de l’intelligence artificielle.
Une urgence sociétale à l’ère des IA génératives
Les conclusions d’AI Forensics résonnent comme un signal d’alarme. L’exposition des adolescentes aux deepfakes sexuels produits par l’IA Grok ne relève plus d’exceptions isolées, mais d’un phénomène systémique rendu possible par la puissance et l’accessibilité des outils actuels.
À mesure que les IA génératives s’imposent dans les usages quotidiens, la protection des mineurs en ligne apparaît comme un enjeu central. Sans encadrement strict, sans responsabilité claire des plateformes et sans prise de conscience collective, les dérives observées aujourd’hui risquent de s’amplifier, au détriment des publics les plus vulnérables.
