EXPOSÉ DES MOTIFS
Mesdames, Messieurs,
L'intelligence artificielle générative fait l'objet de dérives alarmantes, notamment à travers son utilisation pour créer des contenus pédocriminels.
Les auteurs et consommateurs de contenus pédocriminels ont recours aux outils d'IA pour générer des textes, photos et vidéos d'exploitation sexuelle des enfants, par exemple des applications de déshabillage (« nudify apps »), ou des modèles d'IA générative open source qu'ils modifient et détournent pour leur faire créer des contenus pédocriminels.
Les risques posés par la manipulation de cette technologie sont renforcés par des pratiques du grand public trop peu protectrices du droit à l'image et à la vie privée des enfants. Notamment, le « sharenting » (aussi nommé « surpartage parental ») est une cause de l'exploitation des images des enfants sur les plateformes numériques. Même si les parents exposent leurs enfants sur des comptes privés, les pédocriminels se cachent souvent au sein même du cercle familial. L'enjeu est de faire comprendre aux parents, au travers de ce renforcement de la législation, que l'environnement numérique présente les mêmes risques que le monde réel.
Les pédocriminels ciblent en priorité les plateformes très fréquentées par les jeunes, telles que les réseaux sociaux et les jeux en ligne. Ils utilisent des méthodes de manipulation de plus en plus sophistiquées, rendant leurs agissements difficiles à détecter. L'utilisation abusive de l'intelligence artificielle est déjà une réalité tangible, qui exige une approche proactive pour maintenir une longueur d'avance et protéger les limites éthiques.
Dans ce contexte, la rapidité des avancées technologiques impose une mise à jour régulière des réglementations. Il devient essentiel de créer, réviser et actualiser les lois rapidement, en s'appuyant sur une coopération cohérente entre les législateurs, les forces de l'ordre et les entreprises technologiques.
Le code pénal français permet déjà de sanctionner la détention et la transmission d'images générées par l'IA représentant des mineurs de moins de quinze ans (article 227-23). Cependant, des lacunes juridiques demeurent concernant les auteurs de ces contenus. Ces derniers ne peuvent être poursuivis que pour la possession de représentations à caractère sexuel d'enfants, et non pas pour la création de tels contenus. Par ailleurs, le code pénal français ne permet pas non plus d'incriminer le fait de créer et de mettre à disposition des modèles d'IA générative modifiés dans le but de créer des contenus pédocriminels.
Il est donc impératif de pénaliser la création et la mise à disposition de modèles d'IA destinés à générer des contenus pédocriminels. Une réponse législative claire est nécessaire pour sanctionner ces actes qui alimentent un marché illégal tout en contournant les lois existantes. Ce renforcement juridique contribuerait à combler les lacunes actuelles et à mieux protéger les enfants face à ces menaces.
Les institutions internationales, telles que l'OCDE, les Nations unies, l'Union internationale des télécommunications (UIT) et le Sommet mondial de l'IA, ont déjà pris des mesures significatives pour encadrer l'IA générative. Par exemple, l'OCDE a révisé en 2024 ses principes sur l'IA pour intégrer des mécanismes de neutralisation sécurisée des systèmes nuisibles, tandis que des initiatives privées comme le programme « Lantern » illustrent des collaborations concrètes pour traiter des problématiques sensibles.
Face à ces avancées, la France ne doit pas prendre de retard et doit s'intégrer pleinement dans cette dynamique internationale pour apporter une réponse coordonnée à toutes les échelles sur les enjeux liés à l'IA générative.
À long terme, une fois une législation mise en oeuvre, il est crucial d'inciter les autorités à entreprendre des politiques publiques de prévention et de sensibilisation, notamment par des actions de communication et un soutien accru à la parentalité. Ces initiatives visent à responsabiliser les parents en tant que personnes référentes de confiance sur ces questions essentielles pour la protection des enfants.
C'est pourquoi nous proposons, sur la base du rapport précis et détaillé de la Fondation pour l'Enfance, la modification de l'article 227-23 du code pénal, et la création d'un article dans la section 5 du chapitre 6 du même code.