III. APPLIQUER ENFIN LA LOI SUR L'INTERDICTION D'ACCÈS DES MINEURS ET PROTÉGER LA JEUNESSE
A. BLOQUER TOUT SITE OU RÉSEAU PROPOSANT DES CONTENUS PORNOGRAPHIQUES SANS CONTRÔLE DE L'ÂGE DES UTILISATEURS
1. Exploiter et améliorer toutes les possibilités de recours administratifs et judiciaires contre les sites porno accessibles aux mineurs
Des possibilités de recours judiciaire existent et des actions en justice ont été entreprises, à la fois au civil et au pénal, afin de bloquer les sites pornographiques en infraction avec l'article 227-24 du code pénal qui interdit toute diffusion de contenu pornographique susceptible d'être vu par un mineur. Cependant, ces recours n'ont toujours pas conduit au blocage systématique des sites pornographiques accessibles aux mineurs.
a) Des voies de recours confiées à l'Arcom
L' article 23 de la loi du 30 juillet 2020 visant à protéger les victimes de violences conjugales confère au président du CSA - aujourd'hui de l'Arcom - une compétence pour intervenir à l'endroit de tout éditeur de service de communication au public en ligne, établi en France ou non, qui permet à des mineurs d'avoir accès à un contenu pornographique, en violation de l'article 227-24 du code pénal.
Ce dispositif juridique n'est effectif que depuis octobre 2021 : le projet de décret d'application a fait l'objet d'une notification à la Commission européenne, qui a formulé des observations en juillet 2021, et le décret a été publié le 7 octobre 2021.
L'intervention du président de l'Arcom à l'égard de l'éditeur prend la forme d'une mise en demeure lui enjoignant de prendre toute mesure de nature à empêcher l'accès des mineurs au contenu incriminé. L'éditeur dispose alors d'un délai de quinze jours pour présenter ses observations. À l'issue de ce délai, le président de l'Arcom a la faculté, en cas d'inexécution de l'injonction et si le contenu reste accessible aux mineurs, de saisir le président du tribunal judiciaire de Paris afin que ce dernier ordonne, au terme d'une procédure accélérée au fond, le blocage technique de l'accès au service en cause par les fournisseurs d'accès à Internet (FAI). Le président de l'Arcom peut également demander à ce que soit ordonnée toute mesure destinée à faire cesser le référencement du service par un moteur de recherche ou un annuaire.
Sur ce fondement, le président de l'Arcom a, en décembre 2021, mis en demeure cinq sites pornographiques d'empêcher leur accès aux mineurs : Pornhub , Tukif , Xnxx , Xhamster et Xvideos . En avril 2022, il a mis en demeure deux autres sites : YouPorn et Redtube .
En mars 2022, le président de l'Arcom a saisi le tribunal judiciaire de Paris et assigné les FAI aux fins de blocage de cinq sites pornographiques ( Pornhub , Tukif , Xnxx , Xhamster et Xvideos ).
Une audience s'est tenue le 6 septembre 2022. Cependant, une question prioritaire de constitutionnalité (QPC) ayant été soulevée par la société chypriote MG Freesites , éditrice du site Pornhub , le tribunal n'a pu se prononcer sur ce dossier au fond. Dans l'attente de la décision relative à la transmission ou non de la QPC à la Cour de cassation, mise en délibéré au 4 octobre 2022, le tribunal a ordonné une médiation entre l'Arcom, les éditeurs de sites pornographiques et les FAI, suggérant également d'associer la Commission nationale de l'informatique et des libertés (Cnil). Compte tenu du manque de dialogue entre ces acteurs au cours des deux dernières années et des réticences formulées par l'Arcom, il est peu probable que cette médiation soit couronnée de succès.
Une décision du tribunal judiciaire au fond permettant de faire appliquer l'article 227-24 du code pénal constituerait un signal fort que la délégation appelle de ses voeux.
Elle pourra être suivie de nouveaux recours en justice afin de bloquer davantage de sites. Certes, à ce stade, la saisine du président de l'Arcom s'est concentrée sur les sites ayant le plus grand nombre de visiteurs uniques (entre un et neuf millions de visiteurs uniques pour chacun des cinq sites ayant fait l'objet d'une saisine du tribunal judiciaire). Cependant, selon un sondage Ifop d'avril 2022, seuls 25 % des adolescents qui consultent des sites pornographiques l'ont fait exclusivement sur l'un des huit sites visés par l'Arcom dans des courriers envoyés en mars 2021 ( Pornhub , Tukif , Xnxx , Xhamster , Xvideos , Jacquie et Michel , Jacquie et Michel TV et Jacquie et Michel TV 2 ), les autres ont également consulté des sites différents.
Des associations de protection de l'enfance et des associations féministes ont d'ores et déjà saisi l'Arcom d'une centaine de sites en infraction avec l'article 227-24 du code pénal.
Il faudra par la suite s'assurer que les FAI et les moteurs de recherche exécuteront les décisions de justice une fois celles-ci prononcées et procéderont au blocage et déréférencement des sites.
La Fédération française des télécoms (FFT), par la voix de son directeur général Michel Combot, s'est engagée devant la délégation à appliquer les décisions de blocage selon les délais indiqués par le juge, comme les FAI l'ont fait par le passé pour de précédentes décisions de justice. Michel Combot a néanmoins relevé les difficultés soulevées par l'utilisation de VPN 49 ( * ) ou de logiciels intégrés aux navigateurs qui permettent de court-circuiter les systèmes de blocage mis en place par les FAI. Un blocage par adresse IP plutôt que par DNS rendrait plus difficile ces contournements.
De même, Arnaud Vergnes, responsable juridique de Google France , a indiqué devant la délégation que Google procédera au déréférencement des sites incriminés dès lors que la décision de justice lui sera notifiée.
Au-delà de cette décision de justice extrêmement attendue, la procédure de blocage des sites pornographiques apparaît largement perfectible . Guillaume Blanchot, directeur général de l'Arcom, a reconnu devant la délégation que « la procédure mise en place par le législateur est complexe ».
Actuellement l'Arcom doit procéder par voie d'huissier afin de constater les infractions. Assermenter les agents de l'Arcom pour leur permettre de constater les infractions des sites permettrait d'accélérer et de réduire le coût de ces constatations.
|
Recommandation n° 11 : Assermenter les agents de l'Arcom afin de leur permettre de constater eux-mêmes les infractions des sites pornographiques accessibles aux mineurs. |
En outre, le président de l'Arcom ne peut demander un blocage ou un déréférencement d'un site qu'après avoir mis en demeure ce site. Pour reprendre un parallèle formulé par Godron Choisel, président de l'association Ennocence, « vous avez quelqu'un qui deale au coin de la rue et vous le mettez en demeure d'arrêter de dealer , sinon vous appellerez la police ». L'Arcom est même allée plus loin en écrivant aux sites pornographiques pour leur demander de formuler des observations, avant de juger que ces observations n'étaient pas suffisantes et de les mettre en demeure.
Guillaume Blanchot, directeur général de l'Arcom, a justifié la prudence de l'Arcom par la nécessité de donner à ses décisions toutes les garanties nécessaires face à des sites pornographiques qui « se sont entourés des meilleurs avocats de la place de Paris » et sont « dans une approche contentieuse ».
Il a également indiqué que l'Arcom est soumise à des contraintes procédurales qui s'inscrivent dans le cadre de l'Union européenne : « Du fait de l'application du principe du pays d'origine, inscrit dans la directive e-commerce, nous devons informer de la procédure l'État membre où est établi l'éditeur des sites et lui demander s'il compte lui-même mettre en oeuvre des actions à l'égard de ces sites. Parallèlement, nous devons aussi informer la Commission européenne. La mise en oeuvre de ces garanties allonge la durée de la procédure, d'autant que nous devons en amont identifier l'éditeur et son établissement géographique . »
Face à ces différentes lourdeurs, Maître Laurent Bayon, avocat des associations e-Enfance et La Voix de l'Enfant , préconise, dans une contribution écrite adressée à la délégation, une refonte de la procédure existante. Il questionne notamment le recours à une procédure accélérée au fond, qui aboutit à une décision définitive et non provisoire, contrairement à celle rendue en référé ; ce qui lui apparaît peu adapté dans la mesure où le blocage doit pouvoir être levé si le site prend des dispositions pour respecter l'article 227-24 du code pénal. Il suggère de s'inspirer de la procédure judiciaire existante en matière de diffusion de manifestations sportives, qui permet de bloquer des sites pirates.
Une autre solution, privilégiée par la délégation, consisterait à confier à l'Arcom la possibilité de prononcer des sanctions administratives à l'encontre des sites pornographiques ne respectant pas la loi, afin de rendre son action contre ces sites plus efficace, plus simple et plus rapide.
En Allemagne, la Commission pour la protection de la jeunesse ( KJM ), qui relève des Länder , est directement compétente pour prononcer des mesures de blocage de sites pornographiques. Ainsi, en mars 2022, la KJM a décidé d'une mesure de blocage par les FAI à l'encontre du site pornographique le plus utilisé en Allemagne, xHamster .
Laure Beccuau, procureure de la République au parquet de Paris a suggéré devant la délégation la mise en place d'une sanction administrative, sur le même modèle que ce qui existe en matière de lutte contre la haine en ligne, pour les sites ne respectant pas la loi en matière d'accès des mineurs.
En effet, en matière de lutte contre la haine en ligne, il est possible d'infliger une sanction administrative de 20 millions d'euros ou de 6 % du chiffre d'affaires mondial aux organismes ne respectant pas l'injonction de fermer les sites contenant des propos haineux.
Créer une sanction administrative aussi lourde ne serait pas sans avoir un effet dissuasif plus efficace pour les sites pornographiques. Le recours à cette sanction pourrait être judicieusement confié à l'Arcom, déjà compétente en matière de lutte contre la haine en ligne.
|
Recommandation n° 12 : Confier à l'Arcom la possibilité de prononcer des sanctions administratives, aux montants dissuasifs, à l'encontre des sites pornographiques accessibles aux mineurs. |
b) Des recours ouverts aux particuliers et associations
La loi du 21 juin 2004 pour la confiance dans l'économie numérique (LCEN) 50 ( * ) organise des possibilités de recours civil contre des hébergeurs, éditeurs et opérateurs.
Lors d'une audition avec des associations, Gordon Choisel, président de l'association Ennocence , a estimé que la procédure civile s'est révélée dans plusieurs cas efficace pour bloquer et déréférencer certains sites.
En juillet 2021, les associations e-Enfance et La Voix de l'Enfant ont assigné en référé devant le tribunal judiciaire de Paris les fournisseurs d'accès à Internet (FAI) dans le but d'ordonner le blocage de neuf sites ( Pornhub , mrsexe , iciporno , Tukif , xnxx , xhamster , Xvideos , Youporn et Redtube ) exposant des mineurs à des contenus pornographiques en violation de l'article 227-24 du code pénal. S'appuyant sur l'article 6.I-8 de la LCEN (dans sa version antérieure à la loi du 24 août 2021 confortant le respect des principes de la République 51 ( * ) ) et sur l'article 835 du code de procédure civile, les associations faisaient valoir qu'il existait un trouble manifestement illicite résultant de l'exposition des mineurs à la pornographie qu'il convenait de faire cesser.
Par jugement du 8 octobre 2021, le tribunal judiciaire a reconnu qu'il était établi par constats d'huissier qu'il existait un trouble manifestement illicite. Cependant, il a estimé que l'assignation des seuls FAI n'était pas recevable faute d'action préalable à l'encontre des éditeurs des sites pornographiques dont il était sollicité le blocage, voire des hébergeurs. Par un arrêt du 19 mai 2022, la cour d'appel de Paris a confirmé ce jugement.
Des recours formulés à l'encontre des éditeurs de site dans un premier temps puis des FAI dans un second temps pourraient en revanche prospérer.
La délégation estime néanmoins que la responsabilité de la lutte contre les pratiques des sites pornographiques ne doit pas reposer sur des associations, aussi impliquées soient elles, mais incombe aux pouvoirs publics, et en tout premier lieu à l'Arcom .
2. Imposer un véritable contrôle de l'âge des internautes avant tout accès à un contenu pornographique
La délégation tient à affirmer de façon ferme ce qu'elle considère comme une évidence : un contrôle de l'âge de l'internaute doit être assuré avant tout accès à des sites pornographiques mais aussi aux réseaux sociaux qui doivent pouvoir bloquer l'accès des mineurs à tout compte ou contenu pornographique. Il ne s'agit ni plus ni moins que de faire appliquer la loi.
Une étude 52 ( * ) de législation comparée commandée par la délégation montre qu'aujourd'hui aucun pays démocratique n'est parvenu à mettre en place une législation pleinement satisfaisante et efficace afin d'interdire l'accès des mineurs aux contenus pornographiques. Ainsi, faute de solution technique satisfaisante, le Royaume-Uni a dû renoncer en 2019 aux dispositions du Digital Economy Act de 2017 qui imposaient une vérification de l'âge pour l'accès aux contenus pornographiques en ligne. Pour autant, plusieurs pays travaillent aujourd'hui à des solutions. L'approche adoptée par la Commission pour la protection de la jeunesse dans les médias ( KJM ) en Allemagne apparaît particulièrement intéressante.
De ce point de vue, la délégation juge primordial que l'Arcom adopte une démarche davantage proactive . L'autorité a affirmé, par la voix de son directeur général Guillaume Blanchot, considérer qu'il n'a pas de mission a priori s'agissant des dispositifs de vérification d'âge qui peuvent être envisagés par les sites ou par d'autres prestations. Elle estime que ce n'est qu'une fois que ce dispositif est effectivement mis en place qu'il doit s'assurer qu'il répond aux critères permettant d'empêcher que les mineurs puissent accéder aux contenus pornographiques. La délégation considère toutefois qu'il s'agit d'une vision extrêmement restrictive des missions de l'Arcom.
La délégation invite tout d'abord l'Arcom à rédiger des lignes directrices . En effet, l'Arcom n'a toujours pas fait usage de la compétence qui lui a été donnée de publier des lignes directrices relatives à la fiabilité des procédés techniques permettant de s'assurer que les utilisateurs souhaitant accéder à un contenu pornographique d'un service de communication au public sont majeurs.
Elle recommande la mention au sein de ces lignes directrices de la nécessité d'opérer le contrôle de l'âge dès l'entrée sur le site, avant même de visionner la moindre image même floutée . Un écran noir doit s'afficher sur les smartphones et ordinateurs des utilisateurs dont l'âge n'a pas été vérifié.
Un tel écran noir existe sur le site Internet de Canal+ et MyCanal :
|
Recommandation n° 13 : Imposer aux sites pornographiques l'affichage d'un écran noir tant que l'âge de l'internaute n'a pas été vérifié. |
La délégation recommande également la définition, au sein des lignes directrices de l'Arcom, de critères exigeants d'évaluation des solutions techniques proposées . Actuellement aucun critère n'est défini a priori .
L'Arcom pourrait s'inspirer des démarches entreprises par les autorités de régulation allemandes : la Commission pour la protection de la jeunesse dans les médias ( KJM ) et l'Agence fédérale pour la protection de la jeunesse ( BzKJ ). La KJM a développé une procédure d'évaluation positive des solutions techniques de contrôle de l'âge. Elle peut également évaluer les nouvelles solutions techniques des entreprises, à la demande de ces dernières. Constatant le manque d'effectivité de certains systèmes, la KJM a défini différents critères d'évaluation des solutions techniques. Elle exige ainsi que la vérification de l'âge s'effectue en deux étapes interconnectées : une indentification personnelle, permettant de vérifier la majorité, et une authentification lors de chaque session. Au mois de mars 2022, la KJM a conclu à une évaluation positive pour 90 solutions techniques de vérification de l'âge.
Plus largement, une coopération entre régulateurs des pays européens et des échanges au niveau européen apparaissent indispensables afin de définir des critères communs et ainsi exercer une pression plus forte sur les éditeurs de sites pornographiques.
|
Recommandation n° 14 : Définir, dans les lignes directrices de l'Arcom, des critères exigeants d'évaluation des solutions techniques de vérification de l'âge. |
Des sociétés ont d'ores et déjà développé des solutions.
Ainsi, le groupe ARES, détenteur de Jacquie et Michel , a développé une solution appelée My18Pass destinée à bloquer tout contenu porno tant que l'utilisateur n'a pas fourni la preuve de sa majorité, au moyen d'une carte bancaire, via le service Straceo , ou d'une vérification d'âge par la société Yoti . Après un premier message à l'entrée du site l'invitant à déclarer qu'il est majeur, l'utilisateur a accès aux différentes catégories et vidéos, avec des images sexuellement explicites. Cependant, il ne peut accéder au contenu intégral des vidéos qu'après avoir prouvé sa majorité. En outre, dans ses réponses adressées à un questionnaire des rapporteures de la délégation, le groupe ARES a indiqué que tous ses sites disposent du label RTA, « bout de code qui indique aux logiciels de contrôle parental que nos sites sont interdits aux mineurs et qu'il faut donc le bloquer ».
Message affiché lors de l'accès au site Jacquie & Michel TV
La délégation a entendu Julie Dawson, directrice des affaires réglementaires de Yoti, qui a mis en avant les spécificités des solutions proposées par cette société britannique, en particulier un système de vérification d'âge par analyse faciale qui repose non sur une reconnaissance faciale mais sur une estimation d'âge avec le recours à de l'intelligence artificielle.
Cependant, les diverses solutions proposées aujourd'hui, encore loin d'être généralisées, apparaissent imparfaites. Il s'agit de trouver des solutions techniques satisfaisantes permettant de satisfaire tout à la fois les exigences de protection de la jeunesse et celles de confidentialité des données à caractère personnel .
Comme l'a mis en avant devant la délégation Bertrand Pailhès, directeur des technologies et de l'innovation à la Cnil, il est nécessaire d'éviter la collecte directe de données identifiantes, notamment de cartes d'identité et d'historiques de navigation, par les sites pornographiques. La vérification de l'âge entraîne en effet un risque de collecte et de croisement des données personnelles, ce risque étant renforcé pour les acteurs qui proposent un ensemble de services adossés à une solution mutualisée de vérification de l'âge. Les systèmes d'estimation de l'âge par analyse faciale pourraient également être détournés pour capturer des vidéos à l'insu des personnes.
La Cnil a publié en juillet 2022 une note 53 ( * ) analysant les principaux types de systèmes de vérification de l'âge afin de préciser sa position sur le contrôle de l'âge sur Internet ainsi que la façon dont les éditeurs de sites pornographiques pourraient remplir leurs obligations légales. Elle y constate que les systèmes actuels sont contournables et intrusifs.
Ce constat rejoint celui opéré par le PEReN en mai 2022 dans une note 54 ( * ) d'analyse technique des différentes solutions de vérification d'âge. Selon le PEReN, actuellement aucun service en ligne n'utilise de méthode complètement fiable de vérification d'âge. Surtout, aucune solution de vérification de l'âge n'est à la fois performante, totalement transparente pour l'utilisateur et peu intrusive en matière de traitement de données à caractère personnel.
Première solution : le recours à une carte bancaire , via une prise d'empreinte ou un micro-paiement. Cette solution a pour principaux avantages d'être facile à mettre en oeuvre et peu intrusive. Cependant, il est possible de disposer d'une carte bancaire avant 18 ans.
Interdire la gratuité des contenus pornographiques pourrait apparaître comme une solution. En effet, les mineurs consultent aujourd'hui exclusivement des sites gratuits. En outre, les parents exercent généralement un certain contrôle sur les paiements de leurs enfants sur Internet, que ce soit par le biais d'une validation de tout paiement en ligne sur leur propre téléphone ou d'un suivi des transactions bancaires effectuées. Cependant, le Conseil constitutionnel ne manquerait pas de considérer qu'il s'agit d'une atteinte trop grande à la liberté d'entreprendre et à la liberté de commerce des éditeurs de sites pornographiques dont le modèle économique repose aujourd'hui sur la gratuité et sur la génération de trafic.
Deuxième ensemble de solutions : la vérification par consultation d'une base de données nationale , avec par exemple l'utilisation de la carte d'identité. Outre leur faible acceptabilité sociale, ces solutions comportent le risque de connaissance par l'exploitant de la base de données du site qui va être visité.
Troisième ensemble de solutions : les solutions fondées sur des données biométriques ou des estimations algorithmiques sur la base du contenu publié ou utilisé par l'utilisateur . Celles-ci nécessitent toutefois la collecte de données concernant potentiellement des enfants de moins de 13 ans. En outre, leur marge d'erreur est importante.
Dès lors, afin de prendre en compte les enjeux de protection et de confidentialité des données, le recours à un dispositif de tiers de confiance ou de double anonymat apparaît indispensable . Telle est la conclusion à laquelle sont parvenus le PEReN et la Cnil. Il s'agit d'imposer que les sites pornographiques, et plus largement tout site soumis à une obligation de vérification d'âge, ne réalisent pas eux-mêmes les opérations de vérification de l'âge mais s'appuient sur des solutions tierces dont la validité aura été vérifiée de manière indépendante.
Vérification de l'âge via un tiers de confiance
Source : Infographie réalisée par la Cnil
Le PEReN propose une solution consistant à rediriger l'utilisateur vers un service tiers qui effectue la vérification de l'âge et génère un jeton en retour à destination d'un service requérant. Une extension sur le terminal de l'utilisateur (baptisée VerifAge) assure l'interface entre le service requérant et le service tiers certificateur. Le service requérant ne disposerait ainsi d'aucune donnée de l'utilisateur ayant permis le contrôle de l'âge et le service certificateur ne connaîtrait pas le service requérant.
Schéma de principe du mécanisme de double
anonymat
avec extension de navigateur
Source : PEReN
Le Laboratoire d'innovation numérique de la Cnil, en partenariat avec Olivier Blazy, professeur à l'École polytechnique, et le PEReN, ont développé un prototype de ce mécanisme de vérification de l'âge par double anonymat qui en démontre la faisabilité technique 55 ( * ) . Selon la note précitée de la Cnil, « cette démonstration permet de prouver qu'il est possible, à travers un système de tiers, de garantir la protection de l'identité de l'individu et le principe de minimisation des données, tout en maintenant un haut niveau de garantie sur l'exactitude des données transmises ».
La solution proposée par le PEReN et la Cnil est à ce jour la plus opératoire. Il convient donc d'encourager une montée en gamme de systèmes permettant de délivrer une preuve d'âge, qui soient totalement indépendants des sites pornographiques et dont l'utilité ne soit pas limitée à la preuve de majorité sur les sites pornographiques, afin de garantir leur indépendance.
|
Recommandation n° 15 : Imposer le développement de dispositifs de vérification d'âge ayant vocation à servir d'intermédiaire entre l'internaute et les sites consultés, avec un système de double anonymat comme proposé par le PEReN et la CNIL. |
En parallèle, une procédure d'évaluation et de certification indépendante des fournisseurs de preuve de l'âge doit être mise en oeuvre. Comme mis en avant par la Cnil, il s'agit en particulier d'évaluer les taux de faux positifs et de faux négatifs à la limite de 18 ans mais aussi d'assurer la conformité des dispositifs au RGPD.
Dans la note précitée, la Cnil précise que « cette démarche de labellisation pourrait s'inspirer, en les simplifiant, des modalités d'encadrement existant pour les prestataires de vérification d'identité à distance (PVID), qui impose une qualification de l'ANSSI sur la base de standards précis et auditables ».
|
Recommandation n° 16 : Établir un processus de certification et d'évaluation indépendant des dispositifs de vérification d'âge. |
* 49 virtual private network : logiciel informatique qui permet de chiffrer ses données et de modifier son adresse IP.
* 50 Loi n° 2004-575 du 21 juin 2004 pour la confiance dans l'économie numérique .
* 51 Loi n° 2021-1109 du 24 août 2021 confortant le respect des principes de la République .
* 52 Voir l'étude en annexe du présent rapport.
* 53 https://www.cnil.fr/fr/verification-de-lage-en-ligne-trouver-lequilibre-entre-protection-des-mineurs-et-respect-de-la-vie
* 54 Pôle d'Expertise de la Régulation Numérique, Détection des mineurs en ligne : peut-on concilier efficacité, commodité et anonymat ? , mai 2022.
https://www.peren.gouv.fr//rapports/2022-05-20%20-%20Eclairage-sur-detection-mineurs_FR.pdf
* 55 https://linc.cnil.fr/demonstrateur-du-mecanisme-de-verification-de-lage-respectueux-de-la-vie-privee