Gabrielle Hazan, cheffe de l’Office des mineurs s’est exprimée ce 10 avril. Elle aborde les risques de l’intelligence artificielle sur la pédocriminalité en ligne.
L'image a été créée artificiellement sur Picsart
“De plus en plus de contenus pédo criminels sont générés par l’IA et la grosse difficulté c’est d’arriver à distinguer ceux qui montrent de réels abus sexuels d’enfants de ceux générés par l’IA”, explique Gabrielle Hazan, cheffe de l’Office des mineurs. Dans une interview pour 20 min, elle mentionne l'absence actuelle de logiciels capables de détecter efficacement les vraies images des fausses. Cette évolution technologique pose un défi supplémentaire dans la lutte contre la pédocriminalité en ligne. Cela signifie que les autorités compétentes doivent effectuer un travail de sélection et d'analyse accru. Gabrielle Hazan estime que cette utilisation croissante de l'intelligence artificielle (IA) contribue à l'augmentation du nombre de signalements de contenus pédo criminels et appelle à “ une évolution législative pour sanctionner spécifiquement la création de tels contenus par IA”. Seul 1% des signalements est traité, par manque de moyen logistique.
Instagram se lance dans la lutte d’images pornographique
L’IA pourrait aussi être un remède. Dès ce 11 avril 2024, les images envoyées par message privé, contenant du contenu à caractère explicite, seront filtrées par un nouvel algorithme. Cette mise à jour ne concerne que les comptes des utilisateurs de moins de 18 ans. La plateforme déploie des avertissements avant l'envoi de photos dénudées. L’objectif est de dissuader la sextorsion et sensibiliser les utilisateurs aux conséquences de leurs actions. Une autre nouveauté : si Instagram repère l'envoi d'une photo dénudée ou à caractère sexuel, le destinataire devra confirmer son intention de l'ouvrir avant de pouvoir le faire. Les signalements de chantage ont considérablement augmenté en 2023, poussant Instagram à agir. Ces mesures sont saluées par l’Office des mineurs comme un moyen efficace de lutter contre la diffusion non consentie de contenus. Problème : beaucoup de mineurs mentent sur leur âge pour accéder à l’application. Instagram est autorisé à partir de 13 ans seulement.
L’IA, un risque pédocriminel qui ne date pas d’hier
Fin septembre 2023, la police espagnole enquête sur des images pédopornographiques d’adolescentes, créées artificiellement. Les images ont été diffusées en majorité sur Only Fans, connue pour son partage de contenu de type pornographique, suscitant l'inquiétude des autorités et des familles concernées. Miriam Al Adib, gynécologue, est la première a donné l’alerte. Elle découvre sa propre fille de 14 ans, nue, allongée sur une autre personne. “Les montages sont super réalistes, c’est très inquiétant et un vrai scandale“. Sa fille est en pleurs : “Regarde ce qu’ils m’ont fait”. Une vingtaine de mineurs seraient concernés. Moins de la moitié ont déposé une plainte au commissariat. Certains mineurs feraient l’objet d’un chantage financier en échange du retrait des images trafiquées, d’après le témoignage d’une mère. Le délégué du gouvernement en Estrémadure, Francisco Mendoza, annonce au journal El Mundo que “Sept déclarations ont été recueillies auprès de sept victimes potentielles et, grâce à l’enquête policière, certains des mineurs qui pourraient être impliqués ont été identifiés“. Les auteurs encourent jusqu'à neuf ans de prison. L’intelligence artificielle devient aujourd’hui un véritable danger pour lutter contre la pédocriminalité sur internet.