Selon une enquête de la BBC, des pédophiles utilisent l’intelligence artificielle pour produire et vendre du matériel d’abus sexuel d’enfants d’apparence réaliste. Certains accèdent à ces images en souscrivant des abonnements à des comptes sur des sites comme Patreon. Bien que Patreon ait déclaré avoir une politique de « tolérance zéro », la police a critiqué la plateforme qui réalise d’énormes bénéfices sans assumer de responsabilité morale.
Les créateurs de ce matériel utilisent un logiciel d’IA appelé Stable Diffusion, initialement destiné à la génération d’images artistiques ou graphiques. Cependant, la BBC a découvert que ce logiciel était utilisé pour créer des images d’abus sexuels réalistes impliquant des enfants, y compris des viols de nourrissons.
Selon la chercheuse et journaliste indépendante Octavia Sheepshanks, qui enquête sur le sujet depuis plusieurs mois, il y a une énorme quantité d’images générées par l’IA, impliquant même des enfants en bas âge.
« Depuis l’avènement des images générées par l’intelligence artificielle (IA), une prolifération massive a été observée. Il ne s’agit plus seulement d’images de très jeunes filles, mais également de pédophiles qui évoquent des enfants en bas âge. »
Ian Critchley, responsable de la protection des enfants au Conseil national des chefs de police, a averti que la consommation de ce type de matériel pourrait inciter les pédophiles à passer à l’action, en abusant d’enfants réels.
Certains des créateurs de ces images publient leur contenu sur la plateforme de médias sociaux japonaise Pixiv, principalement utilisée par des artistes de mangas et d’anime. Étant donné que le partage de dessins animés et de dessins sexualisés d’enfants n’est pas illégal au Japon, ces créateurs utilisent Pixiv pour promouvoir leur travail en groupe, via des hashtags indexant les sujets.
Pixiv a déclaré accorder une grande importance à la résolution de ce problème et a interdit toutes les représentations photoréalistes de contenu sexuel impliquant des mineurs. La société a également renforcé ses systèmes de surveillance et alloué des ressources pour lutter contre les problèmes liés à l’IA. Certains commentaires sur les images partagées sur Pixiv montrent clairement un intérêt sexuel pour les enfants, et certains utilisateurs offrent même de fournir des images et des vidéos d’abus qui n’ont pas été générées par l’IA.
La plateforme de partage de contenu Patreon, pèse 4 milliards de dollars, compte plus de 250 000 créateurs, dont de nombreuses célébrités, journalistes et écrivains reconnus. Cependant, l’enquête a révélé que certains comptes Patreon proposent à la vente des images obscènes d’enfants générées par l’IA, à des prix variant en fonction du type de contenu demandé.
La plateforme reconnaît que la prolifération du contenu préjudiciable généré par l’IA sur Internet est une réalité inquiétante et a déclaré qu’elle travaille activement pour identifier et supprimer ces contenus. La société se décrit comme étant très proactive et dispose d’équipes, de technologies et de partenariats dédiés à la sécurité des adolescents.
Le Média en 4-4-2.