Internet est témoin d’une augmentation inquiétante du matériel synthétique d’abus sexuels sur enfants créé par l’intelligence artificielle (IA), ce qui constitue une menace importante pour les efforts de lutte contre l’exploitation des enfants.

Un rapport de l'Internet Watch Foundation a révélé plus de 3 000 images générées par l'IA de matériels d'abus sexuels sur des enfants en seulement un mois sur un forum du Dark Web. Les communautés en ligne de pédophiles partagent des guides sur l'utilisation d'outils d'IA pour créer des images hyperréalistes, les délinquants visant à produire des milliers d'images troublantes chaque mois. Les plateformes grand public comme Patreon hébergent involontairement ce contenu, malgré leurs politiques à son encontre.

Les lacunes législatives rendent difficile la poursuite de la création d’images d’abus sexuels sur enfants générées par l’IA, et l’accessibilité des outils d’IA open source ajoute à la complexité des efforts de réglementation.

Les entreprises technologiques, les gouvernements et les organisations unissent leurs forces pour lutter contre ce problème, mais une action immédiate est cruciale pour empêcher une nouvelle prolifération de matériel pédopornographique. Si elle n’est pas maîtrisée, l’IA pourrait devenir un outil d’exploitation massive des enfants vulnérables.