Projet de loi visant à sécuriser et réguler l'espace numérique

EXAMEN DES ARTICLES

TITRE IER
PROTECTION EN LIGNE DES MINEURS

Section 1
Renforcement des pouvoirs de l'Autorité de régulation de la communication audiovisuelle et numérique en matière de protection en ligne des mineurs

Articles 1er et 2
Renforcement des pouvoirs de l'Arcom en matière de restriction d'accès des mineurs aux sites pornographiques

L'article 1^er tend à confier à l'Autorité de régulation de la communication audiovisuelle et numérique (Arcom) la compétence d'élaborer un référentiel général déterminant les exigences techniques auxquelles devraient répondre les systèmes de vérification d'âge mis en place pour l'accès à des sites comportant des contenus pornographiques pour se conformer aux exigences de l'article 227-24 du code pénal. Pour rendre ce référentiel contraignant, l'Arcom disposerait d'un pouvoir de mise en demeure et de sanction pécuniaire à l'encontre des éditeurs de sites pornographiques ne se conformant pas à celui-ci.

L'article 2 transformerait la procédure judiciaire de blocage et de déréférencement des sites ne respectant pas la restriction d'accès aux mineurs en procédure administrative confiée également à l'Arcom, sous le contrôle a priori du juge administratif, après une phase contradictoire préalable auprès de l'éditeur.

Le rapporteur Loïc Hervé est favorable à ce transfert de la procédure du juge judiciaire vers une autorité administrative déjà expérimentée en la matière, dans un souci d'efficacité et de « massification » de la réponse face à la prolifération de contenus pornographiques en accès libre sur Internet. Il a noté que les procédures menées par l'Arcom seraient entourées de garanties suffisantes (phase contradictoire, collégialité, procédure de recours rapide...).

À son initiative, la commission spéciale a adopté les articles 1^er et 2 en fusionnant les deux procédures de mise en demeure et de sanction de l'Arcom prévues à l'encontre de l'éditeur, pour éviter tout empiétement entre elles et une éventuelle procédure pénale. Elle a également souhaité intégrer l'ensemble de ces dispositions dans la loi du 21 juin 2004 pour la confiance dans l'économie numérique (LCEN).

Elle a adopté ces deux articles ainsi modifiés.

Les articles 1^er et 2 du projet de loi visent à mettre en oeuvre plusieurs recommandations formulées par la délégation aux droits des femmes dans son rapport précité Porno : l'enfer du décor consacré à l'industrie pornographique, en particulier aux violences exercées en son sein et aux représentations sexistes, racistes, homophobes et inégalitaires qu'elle véhicule.

Ils s'inscrivent également dans la ligne de la directive « Services de médias audiovisuels »^28(*) qui a prévu que les États membres veillent à ce que les fournisseurs de plateformes de partage de vidéos relevant de leur compétence prennent les mesures appropriées pour protéger les mineurs, notamment par l'utilisation de « systèmes permettant de vérifier l'âge des utilisateurs des plateformes de partage de vidéos en ce qui concerne les contenus susceptibles de nuire à l'épanouissement physique, mental ou moral des mineurs ». Ces articles rejoignent également les objectifs de deux articles du RSN qui instaurent la mise en place de mesures appropriées et proportionnées par les fournisseurs de plateformes en ligne accessibles aux mineurs pour garantir un niveau élevé de protection de la vie privée, de sûreté et de sécurité des mineurs (article 28) et l'adoption de mesures ciblées par les très grandes plateformes visant à protéger les droits de l'enfant, y compris notamment la vérification de l'âge (article 35).

1. Le constat : une interdiction de la diffusion d'images pornographiques susceptibles d'être vues par un mineur qui reste lettre morte sur Internet

a) Le visionnage d'images pornographiques par les mineurs sur Internet : un phénomène d'ampleur aux graves répercussions

Le fait de diffuser par quelque moyen que ce soit et quel qu'en soit le support un message à caractère pornographique est puni de trois ans d'emprisonnement et de 75 000 euros d'amende lorsque ce message est susceptible d'être vu ou perçu par un mineur, en application de l'article 227-24 du code pénal. Lors de l'entrée en vigueur de la réforme du code pénal en 1994, cette infraction s'est substituée à celle existante d'outrage aux bonnes moeurs, tout en en restreignant le champ aux seuls mineurs^29(*).

La loi du 30 juillet 2020 visant à protéger les victimes de violences conjugales est venue préciser qu'une simple déclaration de majorité n'était pas susceptible d'écarter cette incrimination^30(*). Les éditeurs de sites pornographiques^31(*) doivent donc procéder à des vérifications qui ne peuvent se limiter à une simple question : « Avez-vous plus de 18 ans ? ».

Force est pourtant de constater que les mineurs peuvent consulter avec une facilité déconcertante les sites « adultes » qui sont devenus le premier canal d'accès aux contenus pornographiques.

Le rapport précité de la délégation aux droits des femmes Porno : l'enfer du décor a parfaitement décrit cette massification de l'accès à la pornographie qui est intervenue à partir de 2006-2007, avec l'apparition de grandes plateformes comme Pornhub et Youporn qui diffusent gratuitement et sans aucune restriction d'accès une multitude de contenus pornographiques, par ailleurs souvent piratés.

L'état des lieux dressé par la délégation sur l'accès des mineurs à la pornographie par Internet est particulièrement édifiant. Selon les acteurs associatifs entendus par la délégation, la première exposition involontaire des enfants intervient souvent dès l'école primaire. Un sondage Opinionway^32(*) de 2018 cité par le rapport indiquait qu'à l'âge de 12 ans un enfant sur trois a déjà été exposé à des images pornographiques, le plus souvent de façon involontaire. Selon un sondage Ifop^33(*) également cité, réalisé en avril 2021 auprès d'adolescents âgés de 15 à 17 ans, 41 % des adolescents interrogés ont déjà consulté des sites pornographiques.

En mai 2023^34(*), l'Arcom et Médiamétrie ont mis en évidence que la part des mineurs fréquentant des sites « adultes » a progressé de neuf points en cinq ans, passant de 19 % fin 2017 à 28 % fin 2022.

On compte 2,3 millions de mineurs visitant chaque mois un tel site pour y passer en moyenne 50 minutes, dont 75 % y accèdent exclusivement depuis leur téléphone.

Source : Extrait du rapport de l'Arcom sur la fréquentation
des sites « adultes » par les mineurs, mai 2023

La délégation aux droits des femmes a documenté avec précision les conséquences néfastes de cette exposition précoce des mineurs aux images pornographiques, après avoir entendu de nombreux experts psychologues : traumatismes voire « viols psychiques » pour les plus jeunes, vision déformée et violente de la sexualité, sexualisation précoce et développement des conduites à risque ou violentes.

b) La procédure d'injonction judiciaire confiée à l'Arcom

Pour lutter contre ce phénomène préoccupant, le Sénat a voté dans le cadre de la discussion de la loi du 30 juillet 2020 visant à protéger les victimes de violences conjugales, à l'initiative de Marie Mercier, rapporteure pour la commission des lois, une procédure judiciaire de blocage des sites ne respectant pas les restrictions d'accès aux mineurs, sur le modèle de la procédure existante en matière de sites illicites de jeux d'argent^35(*).

Cette procédure prévoit plusieurs étapes successives :

- l'organisation de constats par des huissiers de justice pour prouver que les contenus pornographiques sont susceptibles d'être vus par les mineurs ;

- l'envoi d'une mise en demeure par le président de l'Arcom enjoignant à l'éditeur de prendre toute mesure de nature à empêcher l'accès des mineurs au contenu incriminé ; l'éditeur dispose alors d'un délai de quinze jours pour présenter ses observations ;

- à l'issue de ce délai de quinze jours, en l'absence de réaction satisfaisante, la saisine du président du tribunal judiciaire de Paris selon une procédure accélérée au fond, afin que ce dernier ordonne le blocage technique de l'accès au service en cause par les fournisseurs d'accès à Internet. Le président de l'Arcom peut également demander que soit ordonnée toute mesure destinée à faire cesser le référencement du service par un moteur de recherche ou un annuaire.

S'agissant des sites « miroirs »^36(*), il est prévu que le président de l'Arcom puisse saisir aux mêmes fins le président du tribunal judiciaire de Paris sur simple requête.

Cette procédure a été mise en oeuvre à l'encontre de cinq sites pornographiques (Pornhub, Tukif, Xnxx, Xhamster et Xvideos) qui ont été mis en demeure le 13 décembre 2021. Faute de mise en conformité, le président de l'Arcom a saisi une première fois le président du tribunal judiciaire de Paris le 8 mars 2022.

Plus récemment, le 6 avril 2023, l'Arcom a mis en demeure les sociétés Technius Ltd. et Techpump Solutions S.L d'empêcher l'accès des mineurs à respectivement un et deux sites pornographiques qu'elles éditent. Elle a également saisi le président du tribunal judiciaire de Paris pour ordonner aux principaux fournisseurs d'accès à Internet d'empêcher l'accès à deux sites édités par société MG Freesites^37(*).

c) Des éditeurs de sites pornographiques qui veulent maintenir un statu quo inacceptable

Les sites pornographiques visés sont gérés par des entreprises très puissantes qui génèrent un chiffre d'affaires très significatif. Selon le rapport de la délégation aux droits des femmes, le site Pornhub, par exemple, aurait généré un total de 42 milliards de visites en 2019 et afficherait un nombre de près de 220 000 vidéos vues chaque minute dans le monde. Le marché mondial du X représenterait environ huit milliards de dollars de chiffre d'affaires.

Ainsi que l'a rappelé le président de l'Arcom lors de son audition devant la commission spéciale le 13 juin, les sites de l'industrie pornographique n'ont pris aucune initiative pour se conformer à la loi du 30 juillet 2020 depuis son adoption. Seul un éditeur mis en cause a mis en place un système de vérification d'âge. Ils ont en revanche mobilisé leur énergie pour mener une « guérilla contentieuse », selon son expression, pour faire obstacle à la mise en oeuvre de la procédure de blocage. Le décret d'application a fait l'objet d'un recours pour excès de pouvoir. Trois mises en demeure ont été contestées devant les juridictions administratives. La procédure judiciaire a ensuite connu de multiples péripéties - dont une question préalable de constitutionnalité (QPC) posée par la société chypriote MG Freesites, éditrice du site Pornhub, et une médiation prononcée par le juge^38(*).

Par décision du 5 janvier 2023^39(*), la Cour de cassation a estimé qu'il n'y avait pas lieu de renvoyer la QPC au Conseil constitutionnel, jugeant que les articles 227-24 du code pénal et 23 de la loi du 30 juillet 2020 étaient suffisamment clairs et précis pour exclure tout risque d'arbitraire et que l'atteinte portée à la liberté d'expression, en imposant de recourir à un dispositif de vérification de l'âge de la personne accédant à un contenu pornographique, autre qu'une simple déclaration de majorité, était nécessaire, adaptée et proportionnée à l'objectif de protection des mineurs.

D'autres délais sont en revanche incompressibles : ils sont liés aux délais d'assignation de personnes morales étrangères (plus deux mois^40(*)) et aux formalités de coopération européenne en application de la directive « e-commerce »^41(*). Une décision est annoncée le 7 juillet 2023.

2. La proposition du Gouvernement : créer un référentiel de vérification d'âge obligatoire et renforcer les pouvoirs de sanction de l'Arcom

a) Confier le soin à l'Arcom d'élaborer un référentiel obligatoire pour les systèmes de vérification d'âge (article 1^er)

Lors de la procédure judiciaire engagée par l'Arcom, de nombreux débats ont eu lieu sur la solution technique à déployer pour empêcher l'accès d'un site pornographique aux mineurs. Les éditeurs de ces sites ont invoqué le fait que, faute de solution éprouvée et faisant consensus, ils ne pouvaient leur être demandé plus qu'une vérification purement déclarative de l'âge.

Le Gouvernement souhaite donc l'élaboration d'un référentiel fixant le cadre des systèmes de vérification d'âge. Elle relèverait d'une nouvelle mission de l'Arcom qui serait inscrite dans la loi du 21 juin 2004 pour la confiance dans l'économie numérique^42(*) (LCEN), celle de veiller à la non-accessibilité des contenus pornographiques en ligne aux mineurs.

Il reviendrait à l'Arcom, après avis de la Commission nationale de l'informatique et des libertés (Cnil), de fixer les exigences techniques propres à garantir tant la fiabilité du contrôle de l'âge des utilisateurs que le respect de leur vie privée. L'Arcom se verrait ainsi attribuer un pouvoir normatif, sanctionné par une amende administrative prononcée, après mise en demeure préalable, selon la procédure habituelle^43(*) prévue à l'article 42-7 de la loi n° 86-1067 du 30 septembre 1986 relative à la liberté de communication. Cette sanction serait d'un maximum de 75 000 euros ou 1 % du chiffre d'affaires mondial hors taxes réalisé, le plus élevé des deux montants étant retenu, ou de 150 000 euros ou 2 % du chiffre d'affaires mondial hors taxes en cas de réitération du manquement dans un délai de cinq ans après une première sanction.

Les termes « référentiel général » ont été suggérés par le Conseil d'État de préférence à « recommandation », pour faire ressortir son caractère obligatoire. Cette notion existe déjà dans l'ordonnance n° 2005-1516 du 8 décembre 2005 relative aux échanges électroniques entre les usagers et les autorités administratives et entre les autorités administratives.

L'avancée des travaux sur le référentiel

La Cnil, l'Arcom et le Pôle d'expertise de la régulation numérique (PEReN) sont d'ores et déjà en train de travailler sur la rédaction d'un référentiel reposant sur le double anonymat conformément à la position de la Cnil publiée en juillet 2022 et dans laquelle elle a formulé un certain nombre de recommandations afin de permettre de concilier la nécessaire protection des mineurs avec, d'une part, la protection de la vie privée des internautes et, d'autres part, la limitation des risques en matière de cybersécurité.

La Cnil a exclu :

- la collecte directe de pièces d'identité par l'éditeur du site pornographique ;

- l'estimation d'âge à partir de l'historique de navigation de l'internaute sur le Web ;

- le traitement de données biométriques aux fins d'identifier une personne physique de manière unique.

Elle a préconisé le recours à un tiers de confiance indépendant destiné à faire obstacle à la transmission directe de données identifiantes relatives à l'utilisateur au site ou l'application proposant des contenus pornographiques.

Schéma de principe du mécanisme de double anonymat avec extension de navigateur

Source : « Éclairage sur la détection des mineurs en ligne : peut-on concilier
efficacité, commodité et anonymat ? », PeREN, Mai 2022, n° 4

Dans l'attente du déploiement de systèmes plus vertueux, notamment au regard des risques cyber, la Cnil a jugé acceptables le recours à la vérification par carte bancaire ou des procédés d'estimation de l'âge reposant sur une analyse faciale, sans toutefois avoir pour but l'identification de la personne. Dans ces deux cas, elle recommande toutefois que ces systèmes ne soient pas mis en oeuvre directement par le site Web consulté mais par un tiers indépendant.

À travers son laboratoire d'innovation numérique, la Cnil a également proposé en mai 2022 un démonstrateur d'une solution reposant sur le double anonymat, c'est-à-dire un schéma de transmission de preuve d'âge qui garantirait la protection de la vie privée de la personne.

Source : réponses de la Cnil au questionnaire du rapporteur

b) Substituer un blocage administratif au blocage judiciaire existant (article 2)

Prenant acte des difficultés de mise en oeuvre de la procédure judiciaire, le Gouvernement a souhaité lui substituer une procédure administrative qui serait menée de bout en bout par l'Arcom - et non plus son président -, sous le contrôle a posteriori du juge administratif. L'article 23 de la loi du 30 juillet 2020 visant à protéger les victimes de violences conjugales serait reformulé en conséquence.

Il a écarté l'option consistant à enserrer la procédure judiciaire dans des délais plus contraints. Le Premier président de la Cour de cassation a suggéré à cet égard que le président du tribunal puisse statuer sur requête dans le cadre des dispositions de l'article 845 du code de procédure civile qui permet au président du tribunal de statuer sur toutes mesures urgentes lorsque les circonstances exigent qu'elles ne soient pas prises contradictoirement.

Le précédent : l'Autorité nationale des jeux

L'article 23 de la loi du 30 juillet 2020 visant à protéger les victimes de violences conjugales a repris un dispositif mis en place pour l'Autorité de régulation des jeux en ligne (Arjel) - depuis devenue Autorité nationale des jeux (ANJ)^44(*) - pour obtenir le blocage et le déréférencement des sites de jeux ou de paris en ligne non autorisés^45(*).

À l'instar de ce que propose le projet de loi, la loi du 2 mars 2022 visant à démocratiser le sport en France^46(*) a transformé cette procédure judiciaire en procédure administrative à la suite d'un amendement du Gouvernement adopté au Sénat le 15 janvier 2022. Le président de l'ANJ peut désormais, à la suite d'une mise en demeure de l'opérateur illégal et de son hébergeur restée sans réaction pendant huit jours, ordonner aux fournisseurs d'accès à Internet d'empêcher l'accès au site en cause, sous peine d'une amende pénale de 250 000 euros. Cette demande de blocage du président de l'ANJ peut être contestée devant le juge administratif.

Le premier ordre administratif de blocage et de déréférencement pris par la présidente de l'ANJ a été rendu le 13 juin 2022. Cette nouvelle procédure a conduit à l'édiction de 228 ordres administratifs, correspondant au blocage de 853 URL au total. Le délai de traitement d'un dossier se situe désormais entre un et deux mois. Par comparaison, de 2010 à mars 2022, 369 ordonnances judiciaires ont été rendues, menant au blocage de 1 394 URL au total. Les délais étaient alors de quatre à six mois.

L'ouverture d'un compte joueur auprès d'un opérateur agréé de jeux ou de paris en ligne suppose une vérification préalable de l'identité des joueurs, et donc de leur majorité. L'article 4 du décret du 19 mai 2010 relatif à l'offre de jeux et de paris des opérateurs de jeux et à la mise à disposition de l'Autorité nationale des jeux des données de jeux^47(*) prévoit que la personne communique « dans le délai maximum de trente jours à compter de la demande d'ouverture du compte, la copie de sa carte nationale d'identité, de son passeport, de son permis de conduire, de son titre de séjour ou de sa carte de résident en cours de validité justifiant de son identité et de sa date de naissance », ainsi qu'un justificatif de domicile.

Une alternative consiste en l'usage de moyens d'identification électronique renforcés^48(*), peu utilisés par les opérateurs qui l'estiment trop lourde. Ces formalités sont nécessaires pour vérifier que les utilisateurs du site ne sont pas inscrits au fichier des interdits de jeux. Elles le sont également au titre des obligations des opérateurs de jeux ou de paris en matière de lutte contre le blanchiment et le financement du terrorisme^49(*).

L'ANJ mène des actions d'accompagnement à la conformité et des opérations de contrôle par les opérateurs. Elle développe des algorithmes pour détecter les cas où le joueur aurait renseigné une mauvaise date de naissance.

Source : site anj.fr et réponse au questionnaire du rapporteur

Des agents de l'Arcom, spécialement habilités à cet effet et assermentés, pourraient constater directement les infractions commises par les sites pornographiques et dresser des procès-verbaux, à l'instar de ce qu'ils font déjà pour constater certaines infractions relatives aux services de communication audiovisuelle^50(*).

L'Arcom serait ensuite dotée d'un pouvoir d'injonction direct contre l'éditeur d'un site litigieux et, en cas d'échec, à l'encontre des fournisseurs d'accès à Internet et des moteurs de recherche.

L'injonction serait précédée par l'envoi d'une simple lettre d'observations à l'éditeur lui accordant un délai de quinze jours pour y répondre. Passée cette période, une mise en demeure serait adressée accordant un nouveau délai de quinze jours minimum pour empêcher l'accès des mineurs au contenu incriminé. Cette mise en demeure serait simultanément portée à la connaissance des fournisseurs d'accès à Internet.

Ce n'est qu'en cas d'inexécution de cette première injonction à l'éditeur, ou si ce dernier n'a pas mis à disposition sur son site ses coordonnées, que l'Arcom pourrait notifier à ces derniers les adresses électroniques des services de communication en ligne faisant l'objet de la procédure afin qu'ils en bloquent l'accès sous quarante-huit heures.

L'Arcom pourrait également notifier ces mêmes adresses aux moteurs de recherches ou annuaires afin de déréférencer les sites contrevenants, ainsi que leurs sites miroirs, dans un délai de cinq jours.

Ces mesures seraient prononcées pour une durée maximum de vingt-quatre mois et réévaluées tous les douze mois minimum, d'office ou sur demande. Elles seraient rendues publiques dans un rapport d'activité remis annuellement au Parlement et au Gouvernement.

Un éditeur de site ne se conformant pas à une injonction de l'Arcom d'empêcher l'accès aux mineurs aux contenus pornographiques encourrait une sanction pécuniaire de 4 % de son chiffre d'affaires mondial hors taxes ou de 250 000 euros, le plus élevé des deux montants étant retenu, ces montants étant portés respectivement à 6 % maximum ou 500 000 euros en cas de réitération. Ces pénalités seraient de 1 % du chiffre d'affaires mondial hors taxes ou 75 000 euros d'amende maximum s'agissant des fournisseurs d'accès à Internet, moteurs de recherche ou annuaires, ces montants étant portés à 2 % ou 150 000 euros en cas de réitération.

Cette nouvelle mission, indique l'étude d'impact, supposerait des moyens supplémentaires ou une réorientation des priorités de l'Arcom.

Ces dispositions nouvelles seraient applicables aux procédures engagées à compter du 1^er janvier 2024^51(*). Les procédures engagées antérieurement à cette date continueraient, elles, à relever de la compétence du président du tribunal judiciaire de Paris.

3. La position de la commission spéciale : accepter le principe d'une procédure administrative et réorganiser les articles 1^er et 2 pour une meilleure cohérence

a) Accepter une nouvelle procédure pour lutter contre les sites pornographiques accessibles aux mineurs

Compte tenu du peu de résultat de la procédure judiciaire - aucun blocage obtenu en trois ans - le rapporteur estime souhaitable de prendre la voie d'une nouvelle procédure administrative pour accélérer et massifier la réponse aux sites pornographiques qui ne prennent aucune mesure pour protéger les mineurs.

La procédure administrative proposée pourrait présenter l'avantage d'un caractère plus dissuasif compte tenu des pouvoirs de blocage administratif et de sanctions pécuniaires octroyés à l'Arcom - même s'il semble en pratique difficile d'exécuter les sanctions pécuniaires à l'encontre d'éditeurs établis hors de France - et plus efficace avec la possibilité d'agir directement auprès des fournisseurs d'accès à Internet et des moteurs de recherche ou annuaires, même en l'absence de réponse du site contrevenant.

Cette nouvelle procédure présenterait une « originalité » au regard des autres procédures administratives de blocage existantes : contrairement aux contenus terroristes ou pédopornographiques, ou encore aux sites de jeux d'argent illégaux, les contenus mis en ligne par les sites pornographiques ne sont pas en eux-mêmes illicites, sauf à révéler des infractions autres que celles de l'article 227-24 du code pénal.

Cet élément doit être pris en compte pour l'analyse de la proportionnalité de l'atteinte à l'exercice des libertés d'expression et de communication protégées par l'article 11 de la Déclaration des droits de l'homme et du citoyen et par la Cour européenne des droits de l'homme (CEDH) au regard de l'objectif d'intérêt général de protection des mineurs contre la pornographie et ses effets.

Les garanties prévues ont été jugées suffisantes par le Conseil d'État, en particulier :

- l'existence d'une procédure contradictoire de deux fois quinze jours (lettre d'observations puis mise en demeure) permettant à l'éditeur du service de mettre fin à l'infraction pour ne pas s'exposer à des mesures coercitives de l'Arcom ; ainsi seuls les éditeurs qui persisteraient délibérément à ne pas contrôler la majorité des utilisateurs s'exposeraient à des sanctions ;

- la prise de décision collégiale de l'Arcom : la décision de procéder au blocage serait prise par le collège de l'Autorité après échange de vues entre ses membres et appréciation de la proportionnalité de la mesure ;

- la limitation à une durée maximale de vingt-quatre mois des mesures de blocage, sans durée minimale et avec réévaluation, d'office ou sur demande, de leur nécessité, au minimum tous les douze mois ; celles-ci seraient interrompues sans délai lorsque les faits les ayant justifiées ne seraient plus établis ;

- l'existence d'une procédure de recours devant le juge administratif, permettant à l'éditeur du service et aux personnes chargées de mettre en oeuvre les mesures de blocage et de déréférencement, de lui demander l'annulation des mesures, le juge devant alors statuer sur leur légalité dans un délai d'un mois à compter de la saisine. L'appel serait rendu dans les trois mois. Une procédure en référé resterait possible dans les conditions du droit commun^52(*).

Le dispositif suppose une convergence de jurisprudence entre le juge judiciaire, qui aurait à apprécier, dans le cadre d'une procédure pénale, si les éléments constitutifs de l'infraction pénale sont réunis au titre de l'article 227-24 du code pénal, et l'Arcom qui ne peut en principe ordonner la mesure administrative de blocage que si elle se situe dans le champ de l'infraction.

b) La nécessité d'un référentiel obligatoire compte tenu des enjeux

Le Gouvernement a fait le choix de confier un pouvoir normatif à l'Arcom afin de lui laisser une certaine souplesse et capacité d'adaptation pour définir les caractéristiques requises, plutôt que de fixer directement les règles par arrêté ou décret, ce qui semble bienvenu. Le référentiel pourrait ainsi faire l'objet de réactualisations pour prendre en compte les nouvelles solutions techniques disponibles sur le marché.

Pour assurer l'opposabilité et l'efficacité de ce référentiel, il a entendu doter l'Arcom d'un pouvoir de mise en demeure et de sanction spécifique. Toutefois, à la lecture des sanctions prévues aux articles 1^er et 2, il semble difficile de distinguer, s'agissant de l'éditeur, ce qui relève de la l'obligation de conformité au référentiel (article 1^er) de ce qui relève de l'obligation de mettre en place toute mesure de nature à empêcher l'accès des mineurs au contenu incriminé (article 2), auquel s'ajouterait la responsabilité pénale au titre de l'article 227-24 du code pénal.

c) Les modifications apportées par la commission spéciale

Afin de mettre plus de cohérence entre les différentes sanctions, et ainsi conforter la solidité du dispositif, la commission spéciale a choisi, à l'initiative du rapporteur, de réorganiser les articles 1^er et 2 afin de bien distinguer la situation des éditeurs et de celle des fournisseurs d'accès à Internet et des moteurs de recherche.

L'article 1^er serait consacré uniquement à la mission de l'Arcom de veiller à la non-accessibilité des contenus pornographiques en ligne aux mineurs et au référentiel. La commission spéciale a souhaité préciser expressément que les personnes dont l'activité est d'éditer un tel service de communication au public en ligne vérifient préalablement l'âge de leurs utilisateurs (amendement COM-91). Elle a également adopté l'amendement COM-37 de Laurence Rossignol précisant que le référentiel devait être établit dans les six mois de la promulgation de la loi.

L'article 2 créerait un nouvel article 10-1 dans la loi du 21 juin 2004 pour la confiance dans l'économie numérique (LCEN) qui rassemblerait l'ensemble des pouvoirs de l'Arcom pour lutter contre l'accessibilité par les mineurs des contenus pornographiques sur Internet.

L'éditeur qui n'aurait pas mis en place de système de vérification d'âge ou un système non conforme au référentiel pourrait faire l'objet d'une mise en demeure par l'Arcom et encourrait une sanction pécuniaire à ce titre qui serait modulée selon son degré de coopération, la sanction maximale étant encourue lorsque l'éditeur n'a mis en place aucun système de vérification d'âge. Cette mise en demeure serait le préalable nécessaire à une mesure directe de blocage et de déréférencement du site, toujours à l'initiative de l'Arcom, dès lors qu'il est constaté que ce site est accessible aux mineurs.

Le président de la Cnil serait consulté le cas échéant avant une mise en demeure motivée par le déploiement d'un système de vérification d'âge non conforme au référentiel pour analyser l'impact sur la vie privée des utilisateurs. Son avis serait également demandé pour évaluer la sanction.

Cette procédure administrative viendrait ainsi compléter la répression qui pourrait être engagée contre l'éditeur sur le fondement de l'article 227-24 du code pénal, sans empiéter sur son champ.

L'Arcom serait compétente pour les mises en demeure dans les deux cas, et non plus le seul président, pour mettre en demeure un éditeur dont le site laisse accès aux mineurs à des contenus pornographiques par cohérence avec la mise en demeure relative au référentiel. Les conclusions du rapporteur public seraient maintenues dans le cadre de la procédure de recours devant le président du tribunal administratif, le délai d'un mois semblant tout à fait compatible avec cette étape de la procédure qui permet d'éclairer les débats d'un point de vue extérieur.

La commission spéciale a adopté l'amendement COM-92 à cette fin, complété de l'amendement rédactionnel COM-61 de Bernard Fialaire.

La commission spéciale a adopté les articles 1^er et 2 ainsi modifiés.

Section 2
Pénalisation du défaut d'exécution en vingt-quatre heures d'une demande de l'autorité administrative de retrait de contenu pédopornographique

Article 3
Création d'une infraction pénalisant le défaut d'exécution d'une demande de retrait de contenu pédopornographique par un hébergeur

L'article 3 vise à créer une sanction pénale applicable aux hébergeurs qui ne satisferaient pas à la demande émise par l'Office central de lutte contre la criminalité liée aux technologies de l'information et de la communication (OCLCTIC) de procéder au retrait en vingt-quatre heures d'un contenu en ligne d'images ou de représentations de mineurs présentant un caractère pédopornographique relevant de l'article 227-23 du code pénal.

Il compléterait ainsi le dispositif de l'article 6-1 de la loi du 21 juin 2004 pour la confiance dans l'économie numérique (LCEN)^53(*) en s'alignant sur les dispositions déjà applicables en matière de contenus terroristes, par l'application conjointe du règlement européen du 29 avril 2021 relatif à la lutte contre la diffusion des contenus à caractère terroriste en ligne^54(*) (« règlement TCO ») et des articles 6-1-3 et 6-1-5 de la LCEN.

La création de cette infraction - punie de 1,25 million d'euros d'amende pour les personnes morales et, en cas d'infraction d'habitude, de 4 % du chiffre d'affaires mondial serait accompagnée de diverses garanties pour l'hébergeur : délai de préavis de douze heures avant la première injonction ; possibilité de ne pas y déférer en cas de motifs de force majeure, d'impossibilité de fait, d'erreurs manifestes ou informations incomplètes ; existence d'une procédure de recours accélérée devant le tribunal administratif.

La commission spéciale a été favorable à l'alignement du régime de responsabilité pénale de l'hébergeur avec celui qui existe en matière de terrorisme. Elle y a apporté quelques modifications rédactionnelles et procédurales.

Elle a adopté cet article ainsi modifié.

1. Aligner la responsabilité pénale des hébergeurs en matière de demandes de retrait de contenus pédopornographique sur celle en matière d'injonctions de retrait de contenus terroristes

a) Les demandes de retrait de contenus pédopornographiques

Depuis 2015, l'OCLCTIC, qui anime la plateforme de signalement Pharos, peut, en application de l'article 6-1 de la LCEN, demander aux éditeurs et aux hébergeurs de retirer « des images ou des représentations de mineurs relevant de l'article 227-23 du code pénal^55(*) » - communément appelés « contenus pédopornographiques ».

En cas de non-retrait de ces contenus sous vingt-quatre heures, l'OCLCTIC peut notifier la liste des adresses électroniques permettant l'accès aux contenus illicites aux fournisseurs d'accès Internet afin qu'ils les bloquent sans délai. L'Office peut également notifier ces adresses aux moteurs de recherche aux fins de déréférencement.

Seule la non-exécution de ces notifications aux fournisseurs d'accès Internet et aux moteurs de recherche est pénalement sanctionnée. Les peines encourues sont de 250 000 euros d'amende (au lieu de 75 000 euros avant l'entrée en vigueur de la loi du 24 juin 2020 visant à lutter contre les contenus haineux sur Internet^56(*), dite loi Avia) et d'un an de prison. Pour une personne morale, l'amende encourue est égale au quintuple, soit 1 250 000 euros. Les demandes de retrait faites aux éditeurs et aux hébergeurs ne sont quant à elle sujettes à aucune sanction.

Cette procédure administrative s'exerce sous le contrôle d'une personnalité qualifiée indépendante placée sous l'Autorité de régulation de la communication audiovisuelle et numérique (Arcom) chargée d'en vérifier le bien-fondé. Cette dernière peut saisir le tribunal administratif, en référé ou sur requête, en cas de demande de retrait infondée.

La vérification des contenus pornographiques a constitué 82 % de son activité en 2022 - 67 577 demandes de retrait sur les 82 754 demandes totales - les 18 % restants étant consacrés aux contenus terroristes. Une séance de visionnage est organisée à peu près chaque semaine ; elle dure au maximum trois heures et permet d'examiner, en moyenne, environ 5 000 demandes adressées par l'OCLCTIC.

b) Une évolution récente en matière d'injonctions de retrait de contenus terroristes

L'article 6-1 de la LCEN est également applicable aux contenus faisant de la provocation ou de l'apologie du terrorisme au sens de l'article 421-2-5 du code pénal. Il a été récemment complété par le règlement européen TCO, entré en vigueur le 7 juin 2022, et la loi du 16 août 2022 portant diverses dispositions d'adaptation au droit de l'Union européenne en matière de prévention de la diffusion de contenus à caractère terroriste en ligne^57(*). Ces nouvelles dispositions permettent à l'OCLCTIC de délivrer une injonction de retrait, dans un délai d'une heure, de certains contenus à caractère terroriste à l'encontre des hébergeurs (dénommés « fournisseurs de services d'hébergement au public en ligne » dans le règlement).

La violation d'une telle injonction par un hébergeur est pénalement sanctionnée d'un an d'emprisonnement et 250 000 euros d'amende.

c) La proposition du Gouvernement : prévoir la même peine pour les hébergeurs en matière de contenus pédopornographiques tout en accordant les mêmes garanties

Le Gouvernement souhaite selon l'étude d'impact « aligner au maximum » le régime des hébergeurs en cas de non-respect des demandes de retrait des contenus pédopornographiques sur celui relatif aux contenus terroristes, tant sur le volet répressif que sur le volet procédural. En effet, les deux infractions sont d'une gravité comparable - elles sont d'ailleurs les seules à faire l'objet de demande de retrait aussi brève - et il n'y a pas lieu de traiter différemment un hébergeur qui contreviendrait à une demande de retrait selon la nature du contenu. Par ailleurs, il est souhaitable de prévoir les modalités de recours en adéquation avec la brièveté des délais qui leur sont imposés.

Dans ce but, l'article 3 du projet de loi introduirait trois nouveaux articles dans la LCEN :

- l'article 6-2 tend à reprendre certaines des garanties offertes par le règlement TCO^58(*) à l'hébergeur : information préalable douze heures avant toute première demande de retrait, non-exécution de la demande de retrait en cas de force majeure, d'une impossibilité de fait non imputable au service ou d'une erreur matérielle ; il prévoit également que le fournisseur de contenus doit être informé dans les meilleurs délais des motifs du retrait et des voies de recours qui lui sont ouvertes pour contester la demande ;

- l'article 6-2-1, directement inspiré de l'article 6-1-3, prévoit un quantum de peines identique à celui applicable en matière de terrorisme : un an d'emprisonnement et 250 000 euros pour une personne physique, ce qui équivaut à 1 250 000 euros pour une personne morale ; en cas d'infraction commise à titre habituel, l'amende pourrait être portée à 4 % du chiffre d'affaires mondial ;

- l'article 6-2-2 a été introduit à l'initiative du Conseil d'État. Il vise à transposer les dispositions procédurales de l'article 6-1-5 et prévoit : un maintien de la possibilité de recourir aux procédures de référés prévus aux articles L. 521-1 et L. 521-2 du code de justice administrative ; l'ouverture d'un recours au fond aux hébergeurs, aux fournisseurs de contenus, ainsi qu'à la personnalité qualifiée de l'Arcom, dans un délai de quarante-huit heures, le tribunal administratif disposant de soixante-douze heures pour statuer ; un appel possible dans un délai de dix jours à compter de la notification de la décision des juges du fond.

Il est précisé que l'audience serait publique et se déroulerait sans conclusions du rapporteur public, ce qui serait justifié par les délais extrêmement resserrés de la procédure. Cette absence de conclusions de rapporteur public n'est pas prévue actuellement en matière de contenus terroristes par l'article 6-1-5, mais elle est proposée par l'article 23 du projet de loi. Elle est actuellement une simple possibilité inscrite à l'article R. 732-1-1 du code de justice administrative par le décret d'application du 3 juin 2023^59(*).

2. La position de la commission spéciale : accepter l'alignement proposé

a) Un constat préalable : la portée limitée de la disposition apportée

Les sites d'hébergement de contenus, notamment vidéo, en ligne tendent généralement à retirer rapidement les contenus dès lorsqu'ils leur sont signalés, ainsi que le relève la personnalité qualifiée de l'Arcom dans son rapport annuel 2022^60(*).

Compte tenu de cette bonne coopération et du fait que de nombreux hébergeurs sont situés à l'étranger, la pénalisation du non-respect des demandes de retrait relève plus d'une bonne harmonisation des règles juridiques, que d'un besoin opérationnel. Elle peut également inciter certains petits acteurs récalcitrants...

Extrait du rapport annuel 2022 de la personnalité qualifiée

Par ailleurs, ainsi que l'expose l'étude d'impact, l'article 3 vise à anticiper l'entrée en vigueur du règlement relatif à la lutte contre les abus sexuels sur mineurs publié par la Commission européenne le 11 mai 2022^61(*). Ce projet de règlement prévoit la possibilité pour les autorités nationales compétentes d'émettre des injonctions de retrait des contenus à caractère pédopornographique dans un délai de vingt-quatre heures, étant précisé que le non-respect de cette obligation devrait faire l'objet d'une sanction en droit interne.

Toutefois, cette proposition, par ailleurs très discutée, est toujours en débat et il est plus que probable que de nouveaux ajustements législatifs seront nécessaires prochainement dès son adoption.

b) La position de la commission spéciale : adopter l'article sous réserve de quelques ajustements

La commission a accepté d'adopter cet article, en y apportant quelques corrections pour mieux aligner sa rédaction sur le règlement TCO (amendement COM-93) et rétablir les conclusions du rapporteur public, le pouvoir réglementaire ayant la possibilité de permettre au magistrat de dispenser le rapporteur public de prononcer des conclusions à l'audience (amendement COM-94).

La commission spéciale a adopté l'article 3 ainsi modifié.

---

* ²⁸ Directive (UE) 2018/1808 du Parlement européen et du Conseil du 14 novembre 2018 modifiant la directive 2010/13/UE visant à la coordination de certaines dispositions législatives, réglementaires et administratives des États membres relatives à la fourniture de services de médias audiovisuels (directive «Services de médias audiovisuels»), compte tenu de l'évolution des réalités du marché.

* ²⁹ Loi n 92-684 du 22 juillet 1992 portant réforme des dispositions du code pénal relatives à la répression des crimes et délits contre les personnes.

* ³⁰ Article 22 de la loi n° 2020-936 du 30 juillet 2020 visant à protéger les victimes de violences conjugales.

* ³¹ Dans sa délibération n° 2021-069 du 3 juin 2021 portant avis sur un projet de décret relatif aux modalités de mise en oeuvre des mesures visant à protéger les mineurs contre l'accès à des sites diffusant un contenu pornographique (Demande d'avis n° 21007330), la Cnil note que ce dispositif recouvre principalement des éditeurs de services de communication au public en ligne dont l'activité unique ou principale consiste en la diffusion de contenus pornographiques, mais peut s'étendre à de très nombreux sites qui éditent des contenus pornographiques.

* ³² Sondage OpinionWay , #MoiJeune - Les 18-30 ans et la pornographie , avril 2018.

* ³³  https://www.ifop.com/publication/etude-sur-les-effets-et-consequences-de-la-loi-du-30-juillet-2020-sur-le-visionnage-de-contenus-pornographiques-par-les-adolescents-francais/

* ³⁴  La fréquentation des sites adultes par les mineurs, Arcom, mai 2023.

* ³⁵ Article 61 de la loi n° 2010-476 du 12 mai 2010 relative à l'ouverture à la concurrence et à la régulation du secteur des jeux d'argent et de hasard en ligne.

* ³⁶ Même site rendu accessible à partir d'autres adresses.

* ³⁷  Décision consultable sur sur le site de l'Arcom.

* ³⁸ Tribunal judiciaire de Paris, 8 septembre 2022 (RG n°22/55687).

* ³⁹ Cour de cassation, civile, Chambre civile 1, 5 janvier 2023, 22-40.017, Publié au bulletin.

* ⁴⁰ Article 643 du code de procédure civile.

* ⁴¹ Directive 2000/31/CE du Parlement européen et du Conseil du 8 juin 2000 relative à certains aspects juridiques des services de la société de l'information, et notamment du commerce électronique, dans le marché intérieur.

* ⁴² Loi n° 2004-575 du 21 juin 2004 pour la confiance dans l'économie numérique.

* ⁴³ Article 42-7 de la loi n° 86-1067 du 30 septembre 1986 relative à la liberté de communication.

* ⁴⁴ Ordonnance n° 2019-1015 du 2 octobre 2019 réformant la régulation des jeux d'argent et de hasard.

* ⁴⁵ Article 61 de la loi n° 2010-476 du 12 mai 2010 relative à l'ouverture à la concurrence et à la régulation du secteur des jeux d'argent et de hasard en ligne.

* ⁴⁶ Loi n° 2022-296 du 2 mars 2022 visant à démocratiser le sport en France.

* ⁴⁷ Décret n° 2010-518 du décret du 19 mai 2010 relatif à l'offre de jeux et de paris des opérateurs de jeux et à la mise à disposition de l'Autorité nationale des jeux des données de jeux.

* ⁴⁸ 1° et 2° de l'article R. 561-5-1 du code monétaire et financier.

* ⁴⁹ Article L. 561-2 du code monétaire et financier.

* ⁵⁰ Article 78 de la loi n° 86-1067 du 30 septembre 1986 relative à la liberté de communication.

* ⁵¹ Voir article 36 du projet de loi.

* ⁵² Articles L. 521-1 et L. 521-2 du code de justice administrative.

* ⁵³ Loi n° 2004-575 du 21 juin 2004 pour la confiance dans l'économie numérique.

* ⁵⁴ Règlement (UE) 2021/784 du Parlement européen et du Conseil du 29 avril 2021 relatif à la lutte contre la diffusion des contenus à caractère terroriste en ligne.

* ⁵⁵ « L'image ou la représentation d'un mineur lorsque cette image ou cette représentation présente un caractère pornographique ».

* ⁵⁶ Loi n° 2020-766 du 24 juin 2020 visant à lutter contre les contenus haineux sur Internet.

* ⁵⁷ Loi n° 2022-1159 du 16 août 2022 portant diverses dispositions d'adaptation au droit de l'Union européenne en matière de prévention de la diffusion de contenus à caractère terroriste en ligne.

* ⁵⁸ Voir les points 2, 7 et 8 de l'article 3 et l'article 11 du règlement.

* ⁵⁹ Décret n° 2023-432 du 3 juin 2023 relatif au retrait des contenus à caractère terroriste en ligne, pris en application des articles 6-1-1 et 6-1-5 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l'économie numérique.

* ⁶⁰ Consultable en ligne sur le site de l'Arcom.

* ⁶¹ Proposition de règlement du Parlement européen et du Conseil du 11 mai 2022 établissant des règles en vue de prévenir et de combattre les abus sexuels sur enfants, COM(2022) 209 final.