En séance

Projet de loi Sécuriser et réguler l'espace numérique

Direction de la Séance

(1ère lecture)

(PROCÉDURE ACCÉLÉRÉE)

(n° 778 , 777 )

AMENDEMENT

présenté par

Le Gouvernement

ARTICLE ADDITIONNEL APRÈS ARTICLE 5

Après l’article 5

Insérer un article additionnel ainsi rédigé :

Après l’article 226-8 du code pénal, il est inséré un article 226-8-1 ainsi rédigé :

« Art. 226-8-1. – Est puni de deux ans d’emprisonnement et de 60 000 euros d’amende le fait de publier, sans son consentement, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne, et présentant un caractère sexuel. Est assimilé à l’infraction mentionnée au présent alinéa et puni des mêmes peines le fait de publier par quelque voie que ce soit, un contenu visuel ou sonore généré par un traitement algorithmique et reproduisant l’image ou les paroles d’une personne, sans son consentement, et présentant un caractère sexuel. »

Objet

Le présent amendement créé un nouveau délit de publication d’hypertrucage (« deepfake ») à caractère sexuel représentant l’image ou les paroles d’une personne sans son consentement.

L’hypertrucage, ou « deepfake », est une technique de synthèse mono- ou multimédia reposant sur l'intelligence artificielle. Elle peut servir à superposer ou fusionner des images, des fichiers vidéo ou audio existants sur d'autres images ou fichiers vidéo ou audio, à créer un contenu artificiel sur une personne cible à partir du comportement d’une personne source, ou même à créer artificiellement des contenus ressemblants à partir de commandes textuelles.

Bien que cette technologie puisse être utilisée à des fins créatives ou de divertissement, elle présente des risques importants pour le statut des documents présentés au public en raison de la multiplication des faux à des fins de nuire, et donc à l’ordre public.

Les « deepfakes » peuvent notamment être utilisés pour créer ou transformer des images à caractère pornographique, sans l’accord de la personne dont le visage, la voix ou le corps sont reproduits. Ces images peuvent sembler très réelles et convaincantes, et peuvent être utilisées à des fins malveillantes telles que la vengeance, la cyber-intimidation, le chantage ou la diffamation.

Selon l’association Deeptrace, 96% des vidéos « deepfake » sont des vidéos pornographiques, où les personnes visées sont dans 99% des cas des femmes, ce qui en fait un enjeu de lutte contre le sexisme. En 2019, 8 des 10 sites pornographiques les plus consultés hébergeaient des «deepfakes », et une dizaine de sites pornographiques leur étaient exclusivement dédiées.