AMENDEMENT

Après l’article 4

Insérer un article additionnel ainsi rédigé :

L’article 226-8 du code pénal est ainsi modifié :

1° Le premier alinéa est complété par une phrase ainsi rédigée : « Est assimilé à l’infraction mentionnée au présent alinéa et puni des mêmes peines le fait de publier par quelque voie que ce soit, un contenu visuel ou sonore généré par un traitement algorithmique et reproduisant l’image ou les paroles d’une personne, sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un contenu généré algorithmiquement ou s’il n’en est pas expressément fait mention. » ;

2° Il est ajouté un alinéa ainsi rédigé :

« Ces peines sont portées à deux ans d’emprisonnement et 45 000 euros d’amende lorsque la publication du montage ou du contenu généré par un traitement algorithmique a été réalisé en utilisant un service de communication au public en ligne. »

Le présent amendement vise à renforcer l’article 226-8 du code pénal en élargissant son périmètre, en ciblant les hypertrucages et en introduisant une circonstance aggravante.

L’hypertrucage, ou « deepfake », est une technique de synthèse mono- ou multimédia reposant sur l'intelligence artificielle. Elle peut servir à superposer ou fusionner des images, des fichiers vidéo ou audio existants sur d'autres images ou fichiers vidéo ou audio, à créer un contenu artificiel sur une personne cible à partir du comportement d’une personne source, ou même à créer artificiellement des contenus ressemblants à partir de commandes textuelles. Bien que cette technologie puisse être utilisée à des fins créatives ou de divertissement, elle présente des risques importants pour le statut des documents présentés au public en raison de la multiplication des faux à des fins de nuire, et donc à l’ordre public.

Les « deepfakes » peuvent notamment être utilisés pour créer des vidéos ou des images trompeuses dans lesquelles des personnalités publiques disent ou font quelque chose qu'ils n'ont jamais dit ou fait en réalité.

Les « deepfakes » peuvent aussi être utilisés pour voler des identités ou pour tromper les personnes en leur faisant croire qu'elles communiquent avec des personnes en qui elles ont confiance. Une étude menée en 2022 par les Universités d'Oxford, de Brown et de la Royal Society, démontre que 78 % des utilisateurs sont incapables de discerner une vidéo hypertruquée d'une vidéo authentique.

Le présent amendement prévoit :

- d’élargir le périmètre de l’article en introduisant les hypertrucages (« deepfakes »), et la notion d’intelligence artificielle et de contenus générés algorithmiquement

- de répondre aux enjeux de viralité des hypertrucages sur les réseaux sociaux en introduisant une circonstance aggravante lorsque l’infraction a été commise au moyen d’un réseau de communication électronique