M. le président. L’amendement n° 47 rectifié ter, présenté par Mmes Noël et Garriaud-Maylam, MM. Gremillet, D. Laurent et Chatillon, Mme Muller-Bronn, MM. Charon, Joyandet et Bouchet et Mmes Thomas, Belrhiti, Del Fabro, Pluchet et Berthet, est ainsi libellé :
I. – Alinéa 9, deuxième phrase
Remplacer les mots :
quarante-huit heures
par les mots :
, fixé par l’Autorité de régulation de la communication audiovisuelle et numérique, qui ne peut être inférieur à deux jours ouvrés
II. – Alinéa 11
Remplacer les mots :
cinq jours
par les mots :
, fixé par l’Autorité de régulation de la communication audiovisuelle et numérique, qui ne peut être inférieur à deux jours ouvrés
La parole est à Mme Sylviane Noël.
Mme Sylviane Noël. Cet amendement tend à uniformiser les délais prévus aux différents articles du présent projet de loi visant à empêcher l’accès à des contenus illicites ou dans les projets de loi en cours – en particulier le projet de loi de programmation militaire – en les fixant à deux jours ouvrés minimum, au choix de l’Arcom.
Le délai laissé aux moteurs de recherche et annuaires pour le déréférencement des services s’alignerait ainsi sur celui des autres acteurs.
Ce délai minimum de deux jours ouvrés se justifie également par la nécessité d’organiser la mobilisation des agents habilités à effectuer ces blocages chez les acteurs concernés.
M. le président. Quel est l’avis de la commission spéciale ?
M. Loïc Hervé, rapporteur. L’amendement n° 47 rectifié ter, qui reprend les demandes des opérateurs télécoms, vise à laisser à l’Arcom le soin de fixer le délai d’exécution des mesures de blocage et de déréférencement, en imposant un délai minimal de deux jours ouvrés et, ainsi, à aligner le sort des moteurs de recherche sur celui des fournisseurs d’accès à internet.
Le délai de quarante-huit heures semble suffisamment clair : les fournisseurs d’accès ont des services spécialisés pour traiter ce genre de demande et l’Arcom ne nous a signalé aucune difficulté en la matière.
Pour ces raisons, la commission spéciale est défavorable à cet amendement.
M. le président. Quel est l’avis du Gouvernement ?
M. Jean-Noël Barrot, ministre délégué. Le Gouvernement partage l’avis de la commission spéciale : avis défavorable.
M. le président. L’amendement n° 121 rectifié, présenté par Mmes Morin-Desailly, Billon, Borchio Fontimp et M. Mercier, est ainsi libellé :
Après l’article 2
Insérer un article additionnel ainsi rédigé :
Après l’article 6-7 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique dans sa rédaction résultant de la loi n° … du … visant à instaurer une majorité numérique et à lutter contre la haine en ligne, il est inséré un article 6-… ainsi rédigé :
« Art. 6 - …. - I. – Les boutiques d’applications logicielles vérifient l’âge de leurs utilisateurs.
« Les boutiques d’applications logicielles, pour satisfaire à l’obligation mentionnée au premier alinéa du présent I, utilisent des systèmes de vérification de l’âge dont les caractéristiques techniques sont conformes à un référentiel élaboré par l’Autorité de régulation de la communication audiovisuelle et numérique après avis de la Commission nationale de l’informatique et des libertés.
« II. – Le fait pour une boutique d’applications logicielles de ne pas satisfaire à l’obligation prévue au I est puni d’une amende ne pouvant excéder 1 % de son chiffre d’affaires mondial pour l’exercice précédent. »
La parole est à Mme Catherine Morin-Desailly.
Mme Catherine Morin-Desailly. Monsieur le président, je me propose de présenter également l’amendement n° 111 rectifié bis.
M. le président. J’appelle donc en discussion l’amendement n° 111 rectifié bis, présenté par Mmes Morin-Desailly, Billon, Borchio Fontimp et M. Mercier, M. Levi, Mme Noël, MM. Laugier, Duffourg, Le Nay et Kern, Mme Guidez, MM. Canévet et Détraigne et Mmes Jacquemet, Férat et Herzog, et ainsi libellé :
Après l’article 2
Insérer un article additionnel ainsi rédigé :
Après l’article 6-7 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique dans sa rédaction résultant de la loi n° … du … visant à instaurer une majorité numérique et à lutter contre la haine en ligne, il est inséré un article 6-… ainsi rédigé :
« Art. 6-…. – I. – En cas d’inexécution de la mise en demeure prévue au II de l’article 6-7, l’Autorité de régulation de la communication audiovisuelle et numérique peut demander aux boutiques d’applications logicielles d’empêcher le téléchargement de l’application logicielle en cause. Elles disposent d’un délai de quarante-huit heures pour satisfaire cette demande.
« II. – En cas d’inexécution de la mise en demeure prévue au I de l’article 10-1 et dans l’hypothèse où l’éditeur du service de communication au public en ligne concerné donne accès aux contenus pornographiques au moyen d’une application logicielle ou édite des applications qui reprennent ces contenus, en totalité ou de manière substantielle et selon les mêmes modalités d’accès, l’Autorité de régulation de la communication audiovisuelle et numérique peut demander aux boutiques d’applications logicielles d’empêcher le téléchargement des applications logicielles en cause. Elles disposent d’un délai de quarante-huit heures pour satisfaire cette demande.
« III.- Les mesures prévues aux I et II du présent article sont demandées pour une durée maximale de vingt-quatre mois. Leur nécessité est réévaluée, d’office ou sur demande, au minimum tous les douze mois. Lorsque les faits justifiant les demandes prévues aux I et II ne sont plus constitués, l’Autorité de régulation de la communication audiovisuelle et numérique avise sans délai les destinataires de celles-ci de la levée des mesures.
« IV. – Le fait pour une boutique d’applications logicielles de ne pas satisfaire aux obligations prévues aux I à III du présent article est puni d’une amende ne pouvant excéder 1 % de son chiffre d’affaires mondial pour l’exercice précédent.
« V. – Un décret en Conseil d’État, pris après avis de l’Autorité de régulation de la communication audiovisuelle et numérique, détermine les modalités d’application du présent article. »
Veuillez poursuivre, chère collègue.
Mme Catherine Morin-Desailly. Ces amendements s’inscrivent dans la continuité des débats engagés lors de l’examen de la proposition de loi visant à instaurer une majorité numérique et à lutter contre la haine en ligne. Ils concernent tous deux le contrôle de l’âge.
L’amendement n° 121 rectifié est assez fort : il tend à imposer aux boutiques d’applications logicielles la vérification de l’âge de leurs utilisateurs en fonction d’un référentiel conçu par l’Arcom, et ainsi à sensibiliser des acteurs essentiels de l’accès à internet.
L’amendement n° 111 rectifié bis vise à responsabiliser davantage les gestionnaires de boutiques d’applications, tels que l’Apple Store et Google Play, qui sont des intermédiaires indispensables et dont le rôle dans la lutte contre la diffusion de contenus illicites et d’applications problématiques demeure sous-estimé.
Cet amendement, que je défends avec plusieurs collègues, notamment Annick Billon, Alexandra Borchio Fontimp et Marie Mercier, vise à autoriser l’Arcom à demander aux gestionnaires des boutiques d’applications d’empêcher le téléchargement d’une application diffusant des contenus à caractère pornographique, mais aussi de réseaux sociaux en ligne, ne respectant pas les obligations légales de vérification d’âge en vigueur.
M. le président. Quel est l’avis de la commission spéciale ?
M. Loïc Hervé, rapporteur. En ce qui concerne l’amendement n° 121 rectifié, il me semble vertueux de prévoir des vérifications d’âge au plus près de l’utilisateur à chaque fois que cela est possible et, éventuellement, de cumuler les dispositifs.
En l’espèce, pour autant, il me semble qu’il manque une partie de la procédure, car il n’est pas indiqué quelle suite serait donnée à cette vérification. Reviendrait-il au magasin d’empêcher le téléchargement d’applications qui seraient interdites aux moins de 18 ans ou de 15 ans ? Selon quels critères ?
À l’inverse, les éditeurs des applications subissant des restrictions liées à l’âge pourraient-ils interroger les magasins d’application pour vérifier l’âge de l’utilisateur ? Pouvons-nous adopter cet amendement comme une première étape vers un système plus complet ?
Je préfère interroger le Gouvernement à ce sujet.
Pour ce qui est de l’amendement n° 111 rectifié bis, l’objectif de ses auteurs est de bloquer à la source les applications de sites qui ne respectent pas leurs obligations de vérification d’âge.
Ce dispositif serait mis en œuvre sous le contrôle de l’Arcom, après mise en demeure des éditeurs concernés.
Il s’agit d’un complément bienvenu à l’article 2 du projet de loi comme à la proposition de loi visant à instaurer une majorité numérique et à lutter contre la haine en ligne, laquelle devrait être prochainement promulguée par le Président de la République.
La commission spéciale est donc favorable à ce dernier amendement.
M. le président. Quel est l’avis du Gouvernement ?
M. Jean-Noël Barrot, ministre délégué. Je vous remercie pour ces deux amendements, madame Morin-Desailly, qui nous permettent d’avancer dans la réflexion sur la vérification de l’âge.
Je suggère que vous retiriez l’amendement n° 121 rectifié en faveur de l’amendement n° 111 rectifié bis.
La question de la vérification de l’âge se pose de manière prégnante aujourd’hui, notamment en ce qui concerne l’exposition des enfants à des contenus pornographiques, mais aussi pour l’accès à d’autres services, y compris les réseaux sociaux.
Le Sénat a récemment adopté une proposition de loi obligeant les réseaux sociaux à vérifier l’âge de leurs utilisateurs et à recueillir le consentement parental pour ceux d’entre eux qui sont âgés de moins de 15 ans.
Pour les sites pornographiques, il s’agit d’imposer l’installation obligatoire d’un vérificateur d’âge à l’entrée ; la même mesure est envisagée pour les réseaux sociaux.
Néanmoins, comme l’a souligné le rapporteur, nous devons également prendre en compte les boutiques d’applications, qui sont le vecteur par lequel nos enfants accèdent à un certain nombre de ces applications, qu’ils peuvent télécharger et installer sur leurs téléphones.
L’amendement n° 121 rectifié vise à imposer aux boutiques d’applications de vérifier l’âge de l’utilisateur, indépendamment de l’application que celui-ci souhaite télécharger. C’est une approche plus large que celle que vous aviez proposée lors de l’examen de la proposition de loi visant à instaurer une majorité numérique et à lutter contre la haine en ligne.
Il s’agit donc, tout d’abord, d’une vérification de l’âge qui englobe aussi le téléchargement d’applications non soumises à des restrictions d’âge, qui peuvent être consultées aussi bien par les adultes que par les enfants.
Ensuite, je vous confirme que je vais signer ce soir le décret d’application de la loi du 2 mars 2022 visant à renforcer le contrôle parental sur les moyens d’accès à internet, portée par Bruno Studer, qui s’appliquera donc dans les mois à venir.
La France deviendra ainsi le premier pays au monde à généraliser ce contrôle parental, ce qui, dans une certaine mesure, devrait permettre d’atteindre l’objectif visé au travers de cet amendement, car des paramètres sur les téléphones permettront de limiter l’accès des mineurs en fonction de leur âge.
Enfin, nous souhaitons tenir les éditeurs d’applications comme responsables de cette vérification d’âge, plutôt que de la déléguer aux seules boutiques d’applications. Si, actuellement, deux acteurs majeurs se partagent confortablement ce marché, le règlement sur les marchés numériques, ou DMA, qui entrera en vigueur prochainement, instaurera une concurrence entre les boutiques d’applications.
De nouveaux acteurs, y compris français et européens, entreront donc sur le marché. Nous ne souhaitons pas les lester dès le départ d’une obligation supplémentaire, alors que cette responsabilité pourrait être attribuée aux éditeurs.
En revanche, l’amendement n° 111 rectifié bis présente un avantage significatif : il vise à instaurer la même obligation que celle que l’on impose aux sites pornographiques – vérifier l’âge sous peine de blocage ou de déréférencement –, mais aussi, depuis la proposition de loi visant à instaurer une majorité numérique et à lutter contre la haine en ligne, aux réseaux sociaux.
Si cet amendement est adopté, c’est par le biais des boutiques d’applications que les réseaux sociaux comme les sites diffusant des contenus pornographiques pourront être déréférencés s’ils ne mettent pas en place la vérification de l’âge.
Ainsi, cet amendement tend à renforcer considérablement le dispositif des articles 1er et 2 du présent projet de loi, mais également celui de la proposition de loi sur la majorité numérique, que le Sénat a adoptée voilà peu.
M. le président. Madame Catherine Morin-Desailly, l’amendement n° 121 rectifié est-il maintenu ?
Mme Catherine Morin-Desailly. Cet échange était utile.
Mon premier amendement visait surtout à appeler notre attention sur l’importance du contrôle par les parents, ou au moins de la mise en place d’une vérification permettant de garantir qu’un mineur ne puisse avoir accès à tout type de contenu. Dans ce processus, les boutiques d’applications ont une responsabilité.
Pour autant, monsieur le ministre, vous m’avez convaincue, notamment en rappelant l’existence de la loi Studer et de l’instauration du contrôle parental. Ce dispositif permettra, en effet, de superviser l’accès à certains contenus.
De plus, je me satisfais de l’avis favorable que vous émettez sur l’amendement n° 111 rectifié bis, qui découle de nos discussions lors des débats sur la loi visant à instaurer une majorité numérique et qui trouve ici sa pleine justification.
Je retire donc l’amendement n° 121 rectifié au profit de l’amendement n° 111 rectifié bis.
M. le président. L’amendement n° 121 rectifié est retiré.
Je mets aux voix l’amendement n° 111 rectifié bis.
(L’amendement est adopté.)
M. le président. En conséquence, un article additionnel ainsi rédigé est inséré dans le projet de loi, après l’article 2.
Section 2
Pénalisation du défaut d’exécution en vingt-quatre heures d’une demande de l’autorité administrative de retrait de contenu pédopornographique
Article 3
La loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique est ainsi modifiée :
1° L’article 6-2 est ainsi rédigé :
« Art. 6-2. – I. – Si un fournisseur de services d’hébergement n’a jamais fait l’objet d’une demande en application de l’article 6-1 en vue de retirer une image ou représentation de mineurs présentant un caractère pornographique relevant de l’article 227-23 du code pénal, l’autorité administrative mentionnée à l’article 6-1 de la présente loi communique à ladite personne des informations sur les procédures et les délais applicables, au moins douze heures avant d’émettre la demande de retrait.
« II. – Si la personne mentionnée au I du présent article ne peut se conformer à une demande de retrait pour des motifs tenant à la force majeure ou à une impossibilité de fait qui ne lui sont pas imputables, y compris pour des raisons techniques ou opérationnelles objectivement justifiables, elle informe de ces motifs, sans retard indu, l’autorité administrative qui a émis la demande de retrait.
« Le délai indiqué au deuxième alinéa de l’article 6-1 commence à courir dès que les motifs mentionnés au premier alinéa du présent II ont cessé d’exister.
« Si la personne mentionnée au I ne peut se conformer à une demande de retrait, au motif que cette dernière contient des erreurs manifestes ou ne contient pas suffisamment d’informations pour en permettre l’exécution, elle informe de ces motifs, sans retard indu, l’autorité administrative qui a émis la demande de retrait, et demande les éclaircissements nécessaires.
« Le délai indiqué au deuxième alinéa de l’article 6-1 commence à courir dès que le fournisseur de services d’hébergement a reçu les éclaircissements nécessaires.
« III. – Lorsqu’un fournisseur de services d’hébergement retire une image ou représentation de mineurs présentant un caractère pornographique relevant de l’article 227-23 du code pénal, il en informe, dans les meilleurs délais, le fournisseur de contenus en précisant les motifs qui ont conduit au retrait de l’image ou de la représentation et des droits dont il dispose pour contester la demande de retrait devant la juridiction administrative compétente. Il lui transmet en outre une copie de la demande de retrait. » ;
2° Après le même article 6-2, sont insérés des articles 6-2-1 et 6-2-2 ainsi rédigés :
« Art. 6-2-1. – I. – Le fait, pour les fournisseurs de services d’hébergement, de ne pas retirer les images ou les représentations de mineurs présentant un caractère pornographique relevant de l’article 227-23 du code pénal dans un délai de vingt-quatre heures à compter de la réception de la demande de retrait prévue à l’article 6-1 de la présente loi, est puni d’un an d’emprisonnement et de 250 000 euros d’amende.
« Lorsque l’infraction définie au premier alinéa du présent article est commise de manière habituelle par une personne morale, le montant de l’amende peut être porté à 4 % de son chiffre d’affaires mondial hors taxes de l’exercice précédent.
« II. – Les personnes morales déclarées responsables pénalement, dans les conditions prévues à l’article 121-2 du code pénal, des infractions définies au I du présent article encourent, outre l’amende suivant les modalités prévues à l’article 131-38 du code pénal, les peines prévues aux 2° et 9° de l’article 131-39 du même code. L’interdiction prévue au 2° du même article 131-39 est prononcée pour une durée de cinq ans au plus et porte sur l’activité professionnelle dans l’exercice ou à l’occasion de laquelle l’infraction a été commise.
« Art. 6-2-2. – I. – Sans préjudice des articles L. 521-1 et L. 521-2 du code de justice administrative, les fournisseurs de services d’hébergement et les fournisseurs de contenus concernés par une demande en application de l’article 6-1 de la présente loi en vue de retirer une image ou représentation de mineurs présentant un caractère pornographique relevant de l’article 227-23 du code pénal ainsi que la personnalité qualifiée mentionnée à l’article 6-1 de la présente loi peuvent demander au président du tribunal administratif ou au magistrat délégué par celui-ci l’annulation de cette demande, dans un délai de quarante-huit heures à compter, soit, de sa réception, soit, s’agissant du fournisseur de contenus, du moment où il est informé par le fournisseur de services d’hébergement du retrait du contenu.
« II. – Il est statué sur la légalité de l’injonction de retrait dans un délai de soixante-douze heures à compter de la saisine. L’audience est publique.
« III. – Les jugements rendus sur la légalité de la décision en application du I sont susceptibles d’appel dans un délai de dix jours à compter de leur notification. Dans ce cas, la juridiction d’appel statue dans un délai d’un mois à compter de sa saisine.
« IV. – Les modalités d’application du présent article sont précisées par décret en Conseil d’État. »
M. le président. La parole est à Mme la présidente de la commission spéciale, sur l’article.
Mme Catherine Morin-Desailly, présidente de la commission spéciale. Dans le cadre de ses travaux, la commission spéciale, que j’ai l’honneur de présider, a entendu les représentants de la plateforme d’harmonisation, d’analyse, de recoupement et d’orientation des signalements (Pharos), ainsi que ceux d’Europol.
Pharos effectue un travail remarquable de traitement des signalements de contenus illicites. Actuellement, ses prérogatives les plus larges concernent deux domaines spécifiques : la lutte contre la pédopornographie et les contenus à caractère terroriste.
Elle a le pouvoir de demander le retrait de tels contenus aux hébergeurs et, à défaut, d’imposer un blocage ou un déréférencement aux fournisseurs d’accès à internet et aux moteurs de recherche.
Ce mécanisme fonctionne bien. Il connaîtra probablement une évolution avec l’entrée en vigueur du règlement sur les services numériques (RSN), puisque Pharos devra fournir les informations permettant aux hébergeurs de justifier le retrait d’un contenu auprès de son fournisseur.
Dans le cadre de leurs travaux, certains membres de la délégation aux droits des femmes et à l’égalité des chances entre les hommes et les femmes se sont interrogés sur la possibilité d’élargir les compétences de Pharos à d’autres types d’infractions, tels que les actes de torture, de barbarie, de viol ou d’inceste. Ces suggestions ont été notamment formulées par Mme Laurence Rossignol.
Nous convenons tous que ces contenus représentent des infractions graves, qui n’ont pas leur place sur internet. Cependant, nous nous interrogeons quant à la manière de les intégrer dans le champ des injonctions administratives de Pharos.
Nous avons souhaité interroger ses responsables à ce sujet. Ils nous ont indiqué qu’une telle évolution emporterait un changement radical du cadre de fonctionnement de Pharos et nécessiterait des moyens considérables.
Monsieur le ministre, prenez-vous en compte ces considérations, notamment dans la perspective du projet de loi de finances, à l’occasion duquel le rôle et la mission de Pharos pourraient être redéfinis ?
M. le président. La parole est à Mme Annick Billon, sur l’article.
Mme Annick Billon. Je souhaite appeler l’attention sur la question du revenge porn, une réalité tragiquement mise en exergue dans notre rapport d’information intitulé Porno : l’enfer du décor. Cette pratique consiste à rendre accessible en ligne, à l’insu des personnes concernées – qui sont très majoritairement des femmes – des contenus à caractère sexuel.
La loi du 7 octobre 2016 pour une République numérique a introduit l’article 226-2-1 dans le code pénal, sanctionnant sévèrement les auteurs de tels actes.
De surcroît, la loi du 21 juin 2004 pour la confiance dans l’économie numérique prévoit le retrait rapide de ces contenus illicites.
Pourtant, les témoignages glaçants que nous avons recueillis, et que nous continuons de recevoir, révèlent une méconnaissance alarmante de ces dispositions protectrices. Les victimes ne sont pas suffisamment écoutées, entendues, orientées et conseillées, et ne sont donc pas conscientes de l’existence d’une telle procédure.
Je souhaite souligner avec force cet aspect, qui me paraît essentiel : à quoi bon voter des lois si leur méconnaissance les rend inutiles ?
Dès lors, je m’adresse à vous, monsieur le ministre, pour solliciter la mise en place d’actions réelles, rapides et concrètes. Chacune et chacun doit connaître l’existence de ce régime protecteur et doit être en mesure d’y recourir en toute connaissance de cause.
M. le président. La parole est à Mme Laurence Cohen, sur l’article.
Mme Laurence Cohen. Nous voterons cet article 3, qui impose une sanction pénale à l’encontre des hébergeurs ne satisfaisant pas à la demande de l’Office central de lutte contre la criminalité liée aux technologies de l’information et de la communication (OCLCTIC) de procéder au retrait sous vingt-quatre heures d’un contenu en ligne présentant un caractère pédopornographique relevant de l’article 227-23 du code pénal.
Nous avions déposé un amendement, qui a malheureusement été jugé irrecevable au titre de l’article 40. Notre objectif était de renforcer les pouvoirs de police administrative de Pharos dans la lutte contre les contenus choquants et dangereux sur internet, ce qui rejoint les propos tenus par la présidente Catherine Morin-Desailly.
Nous entendions ainsi introduire de nouveaux critères tels que la représentation d’actes de torture et de barbarie, ainsi que de viols. Ces actes représentent des formes extrêmes de violence et de violation des droits humains ; leur diffusion sur internet peut avoir des conséquences graves sur les individus qui y sont exposés.
En renforçant les pouvoirs de police administrative de Pharos, nous entendions renforcer également notre capacité à prévenir et à endiguer la propagation de contenus choquants et dangereux en ligne. Pharos joue un rôle central dans la collecte et dans l’analyse des signalements concernant ces contenus. En lui conférant des pouvoirs accrus, nous aurions amélioré notre capacité à agir rapidement et efficacement pour les supprimer et enquêter sur leur origine.
Les auditions menées dans le cadre du rapport d’information Porno : l’enfer du décor de la délégation aux droits des femmes et à l’égalité des chances entre les hommes et les femmes nous ont démontré les lacunes et les limites actuelles du système. La lutte contre ces contenus ne relève pas uniquement de la responsabilité des utilisateurs individuels ; elle nécessite également une action coordonnée des autorités compétentes.
En raison des contraintes imposées aux parlementaires par la Constitution, nous n’avons pu formaliser ces propositions au travers d’un amendement, ce qui explique cette intervention.
M. le président. L’amendement n° 132, présenté par M. L. Hervé, au nom de la commission spéciale, est ainsi libellé :
I.− Après l’alinéa 1
Insérer un alinéa ainsi rédigé :
… L’article 6-2 devient l’article 6-5 ;
II.− Alinéa 2
Remplacer le mot :
rédigé
par le mot :
rétabli
La parole est à M. le rapporteur.
M. Loïc Hervé, rapporteur. Il s’agit d’un amendement de coordination.