vendredi, 20/11/2026   
   Beyrouth 16:50

L’ONU alerte sur l’ampleur des deepfakes sexuels visant les enfants. 1,2 million de victimes en un an

L’intelligence artificielle (IA) offre de nouveaux moyens aux prédateurs et aux réseaux criminels pour piéger, faire chanter et exploiter les enfants, tandis que les dispositifs de protection peinent à suivre le rythme des évolutions technologiques, ont averti jeudi de hauts responsables des Nations unies.

Au moins 1,2 million d’enfants dans 11 pays ont vu leurs images détournées pour créer des contenus pornographiques sous forme de deepfakes au cours de la seule dernière année, a déclaré la vice-secrétaire générale de l’ONU, Amina Mohammed, lors d’une réunion de haut niveau consacrée aux risques et aux opportunités de l’intelligence artificielle pour la protection des enfants, au siège des Nations unies à New York.

S’appuyant sur une étude récente du Fonds des Nations unies pour l’enfance (UNICEF), elle a alerté sur l’ampleur des abus rendus possibles par les nouvelles technologies.

« Nous avons perdu la bataille sur les réseaux sociaux parce que nous avions pris du retard, et nous sommes aujourd’hui en train de perdre la bataille de l’intelligence artificielle parce que nous continuons à prendre du retard », a déclaré Najat Maalla M’jid, représentante spéciale du secrétaire général des Nations unies chargée de la question de la violence à l’encontre des enfants.

Selon elle, les signalements de contenus représentant des abus sexuels sur des enfants et liés à l’IA générative ont augmenté de 1 325 % entre 2023 et 2024, d’après les données du Centre national américain pour les enfants disparus et exploités (NCMEC).

Elle a toutefois souligné que la majorité des infractions facilitées par l’intelligence artificielle contre les enfants restent non signalées et font rarement l’objet de poursuites.

Des outils numériques détournés à des fins d’exploitation

Najat Maalla M’jid a expliqué que les chatbots étaient désormais utilisés pour gagner la confiance des enfants, recueillir leurs informations personnelles et les contraindre à partager des images à caractère sexuel.

Elle a également dénoncé le recours aux applications de déshabillage virtuel, dites « nudification », qui permettent de produire des deepfakes à caractère sexuel utilisés pour humilier, menacer et exploiter les mineurs.

Les outils de profilage et de ciblage prédictif facilitent par ailleurs le repérage des enfants vulnérables par les prédateurs, les trafiquants et les réseaux criminels.

John Trenary, qui enquête depuis plus de 25 ans sur l’exploitation des enfants, a rappelé que les criminels avaient toujours cherché à « transformer la technologie en arme pour exploiter nos enfants ».

Il a toutefois averti que les capacités de l’intelligence artificielle à automatiser les opérations et à produire des contenus entièrement synthétiques rendaient ces pratiques particulièrement difficiles à endiguer.

Selon lui, cette utilisation détournée de l’IA est « auto-entretenue », car de nouvelles méthodes d’exploitation apparaissent dès que les enquêteurs parviennent à identifier et à contrer les précédentes.

Kay Chau, membre de la Tech Coalition, une alliance à but non lucratif consacrée à la protection des enfants en ligne, a également alerté sur l’utilisation potentielle des chatbots pour faciliter des jeux de rôle abusifs ou générer des scénarios destinés à manipuler les mineurs.

Elle a ajouté que le développement de l’intelligence artificielle agentique, capable d’exécuter des tâches de manière autonome, faisait apparaître de nouveaux risques.

Des enfants qui se tournent vers l’IA pour obtenir des réponses

Mariana Rozo-Paz, de la Datasphere Initiative, a évoqué une expérience menée l’année dernière auprès d’adolescentes dans le cadre d’un programme d’éducation numérique en milieu rural en Colombie.

Invitées à dessiner leur représentation d’Internet, les jeunes filles ont dessiné une adolescente qu’elles ont appelée « Lucia », représentant leur agent d’intelligence artificielle.

« Nous parlons à Lucia tous les jours », lui ont-elles expliqué, ajoutant : « Chaque fois que les adultes ne veulent pas répondre à certaines questions, nous demandons à Lucia. Elle est toujours là pour nous. Elle a un mode intime et un mode meilleure amie. »

Cet exemple illustre la place croissante que prennent les outils d’intelligence artificielle dans la vie quotidienne des enfants et les relations de confiance qu’ils peuvent développer avec ces systèmes.

L’ONU appelle à des règles de sécurité obligatoires

Face à ces risques, Amina Mohammed a plaidé pour un renforcement des mécanismes de contrôle avant la mise à disposition des outils d’intelligence artificielle aux mineurs.

« Nous n’accepterions jamais qu’un jouet destiné aux enfants soit commercialisé sans contrôles de sécurité appropriés, mais les systèmes d’IA sont mis à la disposition des enfants sans faire l’objet du même niveau de contrôle », a-t-elle déclaré.

« Nous ne pouvons pas laisser leur sécurité dépendre de la bonne volonté des entreprises technologiques », a-t-elle insisté.

En juillet, le secrétaire général de l’ONU, António Guterres, avait lancé l’initiative « AI Child Safety Pledge », un engagement en faveur de la sécurité des enfants face aux risques liés à l’intelligence artificielle.

Cette initiative vise notamment à garantir que les systèmes d’IA soient certifiés sûrs avant d’être accessibles aux enfants et à appliquer une tolérance zéro à l’égard des contenus d’abus sexuels sur mineurs générés par l’intelligence artificielle.

Najat Maalla M’jid a toutefois estimé que les engagements volontaires du secteur technologique ne suffisaient pas. Elle a appelé à l’adoption de normes internationales intégrant obligatoirement la protection des enfants et de leur vie privée dès la conception des systèmes d’intelligence artificielle.

Amina Mohammed a également souligné que ces technologies pouvaient être utilisées à des fins de protection, notamment pour détecter les contenus représentant des abus sexuels, identifier les victimes et repérer les premiers signes de manipulation et de mise en confiance à des fins d’exploitation.

Source : Anadolu