Mercredi 3 avril 2024
- Présidence de Mme Dominique Estrosi Sassone, présidente -
La réunion est ouverte à 9 h 30.
Évolution de la réglementation du numérique prévue par la loi visant à sécuriser et à réguler l'espace numérique - Communication
Mme Dominique Estrosi Sassone, présidente. - Notre collègue Patrick Chaize, qui était rapporteur du projet de loi visant à sécuriser et à réguler l'espace numérique, va nous présenter les principales dispositions du texte adopté à l'issue de la commission mixte paritaire.
M. Patrick Chaize. - Je vous remercie de me donner l'opportunité de prendre la parole sur les enjeux liés à la régulation de notre économie numérique.
Le numérique n'est pas un secteur économique en soi, ce n'est pas une politique sectorielle, mais une transition à l'oeuvre devenue indispensable à la transformation de nos entreprises, à la modernisation de notre économie, ayant des conséquences majeures en matière d'innovation, de protection des données et de concurrence.
Je suis conscient que ce n'est pas forcément le sujet de prédilection de notre commission, mais je tenais à vous dire que nous avons récemment franchi des étapes très importantes, et que d'autres étapes majeures nous attendent d'ici la fin de la session parlementaire. Nous avions l'habitude d'avancer pas à pas, mais je crois que nous avons récemment fait des « sauts de haie ».
L'arsenal législatif dont nous nous sommes dotés est robuste, et nous commençons seulement à prendre la mesure de l'étendue des instruments, à la fois offensifs et défensifs, que l'Union européenne a mis en place, en particulier au titre du règlement sur les services numériques, le « DSA », et du règlement sur les marchés numériques, le « DMA ».
En début d'année, la Commission européenne a, par exemple, ouvert deux procédures formelles d'infraction au titre du DSA : la première contre X (ex-Twitter) pour manquements présumés aux obligations de lutte contre les contenus illicites et de désinformation, aux obligations de transparence et pour interface utilisateur trompeuse ; la seconde contre TikTok pour manquements présumés à la protection des mineurs, à la transparence de la publicité, à l'accès des chercheurs aux données, ainsi qu'à la gestion des risques liés à la conception addictive et aux contenus préjudiciables.
Il y a quelques jours seulement, la Commission européenne a ouvert plusieurs procédures formelles d'infraction au titre du DMA : la première contre le navigateur Google Search, soupçonné de favoriser ses propres comparateurs de prix ; la deuxième contre l'App Store d'Apple et contre Google Play de Google, soupçonnés d'entraver la possibilité de télécharger des applications sur des boutiques logicielles alternatives ; la troisième contre l'alternative « paiement ou publicité » de Meta, notamment proposée sur Facebook et sur Instagram ; la quatrième contre la place de marché en ligne d'Amazon soupçonnée de favoriser ses propres produits.
Au travers de ces quelques exemples, je suis désormais convaincu que nous sommes sur la bonne voie pour rééquilibrer le rapport de force en notre faveur, malgré les nombreuses contestations en justice des acteurs américains et chinois visés par ces procédures. En début d'année, des parlementaires américains ont même publié une lettre ouverte s'inquiétant de l'extra-territorialité du DMA : une inquiétude que nous, parlementaires français et européens, avons depuis plusieurs décennies vis-à-vis de l'extra-territorialité du droit américain !
Je crois que notre état d'esprit a changé, que nous sommes davantage vigilants, moins naïfs et plus lucides, malgré le « déni de souveraineté numérique » de la part du Gouvernement.
Dans le cadre de l'examen du projet de loi visant à sécuriser et à réguler l'espace numérique, le « PJL Sren », qui vise justement à adapter notre droit national au DSA et au DMA, le Sénat a obtenu des avancées majeures en matière de protection de nos données sensibles et de nos données de santé à caractère personnel face aux législations extraterritoriales. L'atterrissage est certes moins ambitieux que ce nous souhaitions, mais nous avons pu compter sur le soutien de nombreux groupes politiques, au Sénat comme à l'Assemblée nationale, pour avancer sur ce sujet contre l'avis du Gouvernement et de sa majorité.
Il est désormais inscrit dans la loi que les administrations de l'État, ses opérateurs et ses groupements d'intérêt public, y compris la plateforme des données de santé, le « Health Data Hub », dont la gestion des données avait été confiée à Microsoft sans appel d'offres, sont désormais soumises au référentiel SecNumCloud, qui fixe des critères très stricts en matière de souveraineté, y compris en termes de détention du capital. Le Gouvernement n'en voulait surtout pas, nous avons pu et su l'imposer. C'est une étape supplémentaire vers une plus grande souveraineté numérique.
J'ai eu l'occasion de le dire en séance hier après-midi : l'adoption de ce projet de loi est un « échec gouvernemental », mais un réel « succès parlementaire », le texte final ressemblant davantage à une proposition de loi qu'à un projet de loi, car nous nous sommes pleinement saisis des enjeux.
Nous avons également voté plusieurs dispositions visant à permettre une concurrence plus juste sur le marché de l'informatique en nuage (cloud). Cela peut vous paraître abstrait, mais, aujourd'hui, presque toutes les entreprises et tous les individus utilisent, souvent sans le savoir, un service d'informatique en nuage.
C'est un secteur très stratégique, et nous avons souhaité donner davantage l'opportunité à nos entreprises françaises et européennes de se développer. Nous avons réduit les avantages que les GAFAM donnent de façon intéressée à nos entreprises pour les rendre dépendantes technologiquement - plafonnement des « crédits cloud » à un an - et nous avons limité la capacité des GAFAM à faire payer injustement nos entreprises - en confiant à l'Arcep un rôle de règlement des litiges sur la facturation des données, dans la continuité de ce qui est prévu par le nouveau règlement européen sur les données, le « Data Act ».
Ce règlement est applicable dès cette année, 2024 étant une année charnière pour la régulation de l'économie numérique en Europe, avec l'entrée en application d'autres règlements européens, comme celui sur les marchés de crypto-actifs ou celui sur l'intelligence artificielle.
Ce sont des textes importants qui visent à mieux réguler notre économie numérique, mais aussi à la soutenir, à développer des champions nationaux et européens pour demeurer pertinent technologiquement et à la frontière de l'innovation.
Les tensions entre innovation et régulation sont récurrentes et traversent tous les textes que nous avons à examiner, surtout lorsque nous sommes amenés à légiférer sur des sujets nouveaux.
Lors de l'examen du PJL Sren, ce fut le cas à propos des jeux à objets numériques monétisables, les « Jonum », dont personne n'avait entendu parler il y a encore quelques mois.
Ces jeux ont été autorisés à titre expérimental pour une durée de trois ans et je crois que nous avons justement su trouver un équilibre entre régulation et innovation. En termes de régulation, nous avons interdit par principe toute récompense en crypto-actifs, afin d'éviter toute confusion avec les jeux d'argent et de hasard, mais nous avons autorisé, par dérogation à ce principe et à des conditions strictes, l'obtention de telles récompenses à titre accessoire. Nous avons aussi imposé au Gouvernement un débat qu'il souhaitait éviter à tout prix, en refusant sa demande d'habilitation à légiférer par ordonnance et en l'obligeant à effectuer des consultations auprès des associations d'élus locaux et des filières économiques concernées.
En termes de soutien à l'innovation, nous avons fait évoluer le cadre de régulation afin qu'il corresponde davantage aux modèles d'affaires des start-up françaises évoluant dans ce domaine. Nous nous laissons une chance de développer cette nouvelle filière, ou de l'interdire dans trois ans.
Sur ce sujet, je ne vous cache pas que les négociations ont été difficiles, extrêmement tendues jusqu'à la dernière minute, et ce sera le cas à chaque fois que nous serons amenés à légiférer sur des sujets nouveaux. Aujourd'hui, c'est sur les Jonum. Hier, c'était sur les influenceurs commerciaux et sur l'instauration d'une majorité numérique à quinze ans pour l'inscription sur les réseaux sociaux.
À chaque fois, nous devons surmonter de nombreux obstacles pour essayer de concrétiser nos ambitions politiques. À chaque fois, il faut placer le curseur au bon endroit et nous assurer du respect du droit de l'Union européenne et des procédures de notification préalables.
Ce n'est pas simple, car cela nous force à être patients, à accepter de décaler le calendrier d'examen parlementaire de plusieurs mois, mais c'est indispensable pour voter des lois qui seront efficaces et opérationnelles et pour être crédibles aux yeux de nos interlocuteurs.
Dans notre économie mondialisée, au sein de l'ordre juridique intégré que constitue l'Union européenne, nous sommes parfois contraints de réviser nos ambitions. La Cour de justice de l'Union européenne l'a rappelé avec force dans un arrêt retentissant du 9 novembre 2023, durcissant considérablement le principe du pays d'origine de la directive e-commerce. Autrement dit, les dispositions que nous votons à l'égard des acteurs du numérique ne s'appliquent plus qu'à ceux établis en France et à ceux établis en dehors de l'Union européenne. Pour ceux établis dans les autres États membres, ils devront être individuellement identifiés et désignés, sans doute par décrets, mais nous ne pouvons pas les soumettre automatiquement à nos lois nationales.
Je suis conscient que cela peut vous paraître abstrait, mais je vous assure que les conséquences sont majeures pour notre travail parlementaire. Cet arrêt contraint le Gouvernement à réviser la loi du 9 juin 2023 relative à l'influence commerciale et aux dérives des influenceurs sur les réseaux sociaux. Il contraint également le Gouvernement à réviser, même s'il rechigne à le faire, la loi du 7 juillet 2023 visant à instaurer une majorité numérique. À moyen terme, il n'est pas à exclure que les lois du 2 mars 2022 visant à renforcer le contrôle parental sur les moyens d'accès à Internet et du 3 mars 2022 pour la mise en place d'une certification de cybersécurité des plateformes numériques doivent également être modifiées.
Pour légiférer en matière de régulation de l'économie numérique, le chemin est donc semé d'embûches, mais nous commençons à développer une expertise réelle en la matière, le Sénat étant souvent à l'avant-garde de ces sujets de régulation.
Nous avons beaucoup parlé du PJL Sren, mais je me permets d'attirer votre attention sur les des défis supplémentaires qui nous attendent dans les prochains mois. Je pense notamment au projet de loi sur la cybersécurité en cours de préparation sous l'égide de l'Agence nationale de la sécurité des systèmes d'information (Anssi). L'enjeu est majeur et j'espère que nous saurons nous en saisir pleinement, les délégations aux entreprises et aux collectivités territoriales du Sénat ayant récemment publié des rapports sur le sujet.
Nous avons encore très peu de détails quant au calendrier d'examen et au contenu de ce projet de loi, mais nous savons qu'il a pour objectif de transposer trois directives européennes constituant le « paquet Cybersécurité » :
- la directive dite « directive NIS 2 », qui doit être transposée d'ici le 17 octobre 2024. Les enjeux se concentreraient sur la délimitation du périmètre d'application de la directive, sachant que la directive NIS 1 ne s'applique qu'aux opérateurs d'importance vitale alors que la directive NIS 2 élargit les règles de cybersécurité à 18 secteurs économiques différents, soit à plusieurs milliers d'entreprises, ainsi qu'aux administrations publiques, dont les collectivités territoriales, ce qui soulève des enjeux d'accompagnement et de financement ;
- une autre directive sur la résilience opérationnelle numérique du secteur financier, dite « directive DORA », qui doit être transposée d'ici le 17 janvier 2025 ;
- une autre directive sur la résilience des entités critiques, dite « directive REC », qui doit être transposée d'ici le 17 octobre 2024. Là aussi, les enjeux se concentreraient sur la délimitation du périmètre d'application de la directive avec un élargissement à 10 secteurs économiques différents, sachant que la précédente directive REC de 2008, qui a donc été abrogée, ne s'appliquait qu'aux secteurs des transports et de l'énergie.
J'espère, mes chers collègues, que nous saurons être mobilisés sur ce futur projet de loi, car il s'agit sans doute du prochain grand texte numérique sur lequel nous aurons à travailler. Le chemin sera long, il faudra sans doute composer avec la Commission européenne et les procédures de notification préalables, mais c'est un rendez-vous important pour nos collectivités et nos entreprises qu'il ne faudrait pas manquer.
Mme Dominique Estrosi Sassone, présidente. - Merci pour cette présentation. Ces sujets continueront de nous mobiliser fortement ces prochains mois.
Mme Anne-Catherine Loisier. - Je m'interroge sur l'avenir : ce projet de loi sera-t-il suivi d'une loi sur l'intelligence artificielle ?
M. Patrick Chaize. - Une telle loi n'est pas prévue pour l'instant. Un texte sur le sujet serait d'ailleurs prématuré, au regard des évolutions rapides dans ce domaine : il y a trois mois, on pensait que l'intelligence artificielle rattraperait l'intelligence humaine en 2100. Désormais, les chercheurs parlent de 2030. Au regard de cette accélération, il serait donc compliqué de mettre en place une législation stable.
M. Fabien Gay. - En ce qui concerne notre espace numérique, nous sommes trop naïfs ou en-deçà de la réalité. Nous sommes aujourd'hui confrontés à une nouvelle guerre technologique, que nous avons en réalité déjà perdue, car nous accusons un énorme retard par rapport aux GAFAM ou à la Chine. L'intelligence artificielle est en train de produire du contenu en pillant notamment les éditeurs de presse. Ces contenus inondent ensuite les réseaux sociaux et sont parfois beaucoup plus lus que les articles de presse eux-mêmes.
Nous avons également du retard en matière de cloud. Tant que nous n'aurons pas d'acteurs européens puissants, nous ne pourrons pas rattraper ce retard. La majorité de nos données, notamment de santé, sont déjà hébergées hors d'Europe.
Enfin, nous assistons également à une privatisation de l'espace, par les Américains notamment. Nous devons prendre des décisions politiques rapides et mettre en oeuvre des mesures extrêmement fortes. Je me félicite de l'avancée que représente ce projet de loi « Espace numérique », mais il s'agit d'un petit pas dans un monde de géants.
M. Patrick Chaize. - Je suis globalement d'accord avec ce qui vient d'être dit. La prise de conscience de notre handicap est certes tardive, mais réelle. Ma crainte est que notre Gouvernement manque d'une véritable vision : comment expliquer que ce qui était un ministère chargé du numérique soit devenu, depuis le dernier remaniement, un simple secrétariat d'État ?
Je suis encore plus inquiet de la privatisation évoquée de l'espace par les Américains et pour être plus précis, par quelques Américains, les patrons des GAFAM en l'occurrence. Ils construisent des empires qui constituent des États virtuels indépendants, allant même jusqu'à posséder des cryptomonnaies. Cela doit retenir toute notre attention et nous inciter à mettre en oeuvre une feuille de route qui pourrait nous protéger. Il est certes déjà tard, mais il n'est pas encore trop tard pour le faire.
Mme Evelyne Corbière Naminzo. - Qu'en est-il de la protection des citoyens dans l'environnement numérique et notamment de la jeunesse ? Dans un domaine qui évolue constamment, la sensibilisation des élèves et des parents d'élèves, en matière d'exposition aux écrans et aux contenus entre autres, est essentielle. Est-il prévu de lancer des travaux pour rendre opérationnelle et réalisable la protection du citoyen, qui doit aujourd'hui se former seul sur ces questions ?
M. Patrick Chaize. - La question de l'accompagnement à l'utilisation d'internet et du numérique est effectivement essentielle. Nous mettons en oeuvre une phase éducative pour nos enfants. Mais qu'en est-il pour le reste de la population ? Quelques outils sont déjà en place, comme les filtres anti-arnaques. La formation constitue un véritable enjeu politique.
M. Franck Montaugé. - Sur le volet de la souveraineté, quel regard portez-vous sur la gouvernance des innovations en matière de numérique et d'exploitation des données, notamment de santé ? L'impression est qu'au plus haut niveau national, on ne donne pas l'importance qui devrait être la sienne à ce sujet. La présidence américaine entretient par exemple des liens étroits avec le monde scientifique, les échanges sont réguliers avec les développeurs. La problématique de la gouvernance nationale est par ailleurs indissociable de l'échelon européen, où il est nécessaire de développer des PIIEC en lien avec le numérique. Nous avons besoin d'un changement de paradigme et d'une meilleure articulation entre les niveaux national et européen. Quelle est notre vision sur cette question ? Cela passera à mon sens par le sujet de la gouvernance politique et de l'accès aux capitaux.
M. Patrick Chaize. - Au vu du dernier débat sur le PJL Sren, il n'y a aucune ambition en matière de souveraineté de la part du Gouvernement. Il a fallu batailler de façon féroce jusqu'en CMP sur les articles 10 bis A et 10 bis B qui avaient pour objet la protection des données sensibles et des données de santé à caractère personnel, désormais davantage placées sous l'égide de SecNumCloud. Le gouvernement ne voulait pas de ces dispositions et avait confié les données de santé du Health Data Hub à Microsoft sans appel d'offres.
Au niveau européen, il est toujours plus compliqué d'avoir une vision partagée sur le sujet. Du fait de notre lenteur et d'une arrivée tardive dans l'histoire, nous risquons d'être tellement dépassés qu'il n'y aura plus rien à sauver sur le navire... Il ne faudrait pas qu'à chaque fois qu'on se saisit d'un sujet numérique, nous perdions cinq ans en raison de l'échelon européen. Il serait souhaitable d'avoir une vraie vision politique française sur le numérique en général et sous toutes ses facettes - éducation, inclusion, cybersécurité, souveraineté - afin d'espérer garder un peu d'autonomie demain.
M. Michel Bonnus. - Je m'interroge sur les risques inhérents à la cybersécurité et à la survenue de cyberattaques : nos collectivités et nos hôpitaux sont-ils alertés et prêts à faire face à ces menaces ?
M. Patrick Chaize. - Globalement, même si certains campus régionaux sont bien dotés en la matière, il convient de passer à une dimension supérieure pour prévenir ces risques. Il est important d'accompagner les petites collectivités, qui disposent pour certaines encore d'une adresse courriel ancienne et peu sécurisée, constituant une proie facile pour un hacker. Il y a une demande de cyber rançon toutes les treize secondes dans le monde, ce qui prouve la fragilité du système.
M. Yannick Jadot. - Sur la question européenne, on a l'impression que l'enjeu pour la France est simplement de transposer une réglementation européenne qui nous protège. Or certains pays en Europe sont très en avance et inspirent les directives et règlements portés par le commissaire Thierry Breton ; la France est en retard et subit. En matière de stress test des sociétés et des algorithmes, ce qui compte n'est pas tant de décrypter l'algorithme que de parvenir à le tester. Sur le retard de la France ou sa naïveté, il n'existe pas un pays en Europe où le siège de Huawei est situé à quelques centaines de mètres seulement du ministère de la Défense. Nous ne prenons pas l'ampleur de la menace et n'avons pas su faire le travail d'imperméabilité nécessaire.
M. Patrick Chaize. - Je partage ce constat, il y a en effet une forme de naïveté, volontaire ou non, ainsi qu'un manque de vision. Le numérique est relégué par le Gouvernement comme un sujet accessoire, alors qu'il devrait être central et transversal. J'avais milité pour que le secrétariat d'État soit rattaché au Premier ministre : le numérique est partout et constitue un outil pour l'ensemble des acteurs. Or chaque ministère dispose de son propre service numérique, sans lien entre eux. Cette absence de réflexion sur la sécurité et la souveraineté demande une prise de conscience.
Sur l'Europe, cela prend du temps et nous ne pouvons pas nous permettre d'attendre, il nous faut être moteur en Europe pour solidifier et renforcer en commun des postures. Sur le DSA et le DMA, la France a été en pointe, le ministre Cédric O avait défendu ces deux volets et nous en tirons à présent les bénéfices.
M. Christian Redon-Sarrazy. - L'absence d'acteur majeur européen dans le domaine de l'intelligence artificielle (IA) est inquiétante quand on la met en lien avec notre système de protection des données. Les IA génératives se nourrissent de données d'autres continents que les nôtres, comme une opération publique d'achat (OPA) qui serait faite sur le continent européen par les Chinois et les Américains. C'est un dilemme entre protection de nos données et alimentation par des sources étrangères. Des carences et des lacunes existent dans la façon dont le Gouvernement aborde ce sujet.
M. Patrick Chaize. - L'alimentation de l'IA par des données anglo-saxonnes est une problématique sérieuse, entraînant un risque d'influence générale sur la gestion des données. Le point de vigilance se situe également à l'échelle mondiale dans la régulation de l'IA : il existe des limites à ne pas franchir afin d'éviter que l'IA ne soit à l'avenir supérieure à l'intelligence humaine. Cela ouvre le vaste débat de l'influence de l'IA sur la société de demain.
M. Serge Mérillou. - Les normes des pays démocratiques ne constituent-elles pas des boulets aux pieds s'agissant d'un marché sans foi ni loi, avec des pays qui s'affranchissent de toutes les règles ?
M. Patrick Chaize. - Il est temps de se poser les bonnes questions et de mettre ce sujet en haut de la pile. Ce sont des problématiques techniques, futuristes et parfois difficiles à partager avec le grand public. Une prise de conscience collective est pourtant nécessaire.
Audition de Mme Anne Bouverot et M. Philippe Aghion, co-présidents de la commission de l'intelligence artificielle (IA)
Mme Dominique Estrosi Sassone, présidente. - Monsieur le Président, mes chers collègues, nous avons le plaisir d'accueillir aujourd'hui Mme Anne Bouverot, présidente du conseil d'administration de l'École normale supérieure, et M. Philippe Aghion, économiste spécialiste de l'innovation, tous deux co-présidents du comité interministériel sur l'intelligence artificielle dont le rapport a été remis il y trois semaines au président de la République.
Votre rapport nous apprend d'abord qu'il est préférable de parler de « systèmes d'intelligence artificielle », au pluriel, car derrière une appellation générique se cache une multitude de technologies, pas forcément nouvelles, qui permettent un traitement massif, rapide et automatisé de quantités importantes de données. Aujourd'hui, ce sont surtout les « systèmes d'intelligence artificielle générative », et en particulier les grands modèles de langage, qui attirent notre attention, car ces modèles sont capables « d'apprendre » sans intervention humaine explicite, « d'auto-générer » du contenu directement exploitable et de l'information directement diffusable, ce qui suscite à la fois inquiétude et admiration.
Votre rapport est important car il contribue à « démystifier » les débats autour de l'intelligence artificielle, évitant les fantasmes technophiles, relativisant les fausses promesses et dénonçant les prophéties trompeuses, tout en soulignant le caractère stratégique et critique de ces technologies.
Vous proposez un plan d'investissement ambitieux de 27 milliards d'euros, soit plus de cinq milliards d'euros par an sur les cinq prochaines années. Vous appelez l'État et les acteurs privés à accélérer la transition afin de demeurer à la frontière de l'innovation technologique et afin d'éviter d'être trop dépendant de puissances et d'acteurs étrangers qui auront remporté la « bataille de l'investissement » avant la France et avant l'Europe.
Aujourd'hui, nous avons le sentiment qu'une révolution est en train de se produire, que la France est loin d'être en reste, même si le marché de l'intelligence artificielle demeure dominé par la Chine et les États-Unis. Nous saluons ainsi les initiatives nationales prises dans ce domaine, à l'image du succès de la start-up Mistral, dont nous espérons sincèrement qu'elle demeurera sous pavillon national, ou du lancement du premier laboratoire commun de recherche ouverte lancé et financé par Xavier Niel, Rodolphe Saadé et Éric Schmidt. À l'issue de vos travaux, quel regard portez-vous sur le développement de notre écosystème économique et de recherche ? Quelles sont vos recommandations pour accélérer et améliorer son développement ?
Afin de tirer pleinement profit des potentialités de l'intelligence artificielle générative, il nous semble que deux obstacles majeurs doivent être surmontés. Le premier concerne la nécessité d'assurer une juste concurrence sur le marché de l'intelligence artificielle. Nous en doutons au regard des investissements massifs réalisés par les grands acteurs du numérique dans ce domaine. Par exemple, Microsoft dans OpenAI, Amazon et Google dans Anthropic. Face aux risques que les contrôleurs d'accès des technologies d'aujourd'hui contrôlent également l'accès aux technologies de demain, nous saluons la décision prise par l'Autorité de la concurrence, dont nous avons auditionné le président Benoît Coeuré il y a trois semaines, de rendre un avis sur cette question d'ici fin juillet.
Le second concerne la nécessité d'assurer notre puissance de calcul, indispensable au développement des systèmes d'intelligence artificielle. C'est l'une de vos recommandations majeures et, de notre point de vue, c'est autant un défi industriel qu'un impératif de souveraineté. Sur ce point, je ne vous cache pas que nous sommes très inquiets. Car la France accueille le troisième fabricant mondial de supercalculateurs, le dernier d'Europe, mais ce fabricant se trouve en grande difficulté financière aujourd'hui. Face à l'urgence de la situation, et nous insistons sur la nécessité de confronter la réalité économique et industrielle de notre pays aux recommandations de votre rapport, les commissions des affaires économiques et des affaires étrangères, de la défense et des forces armées du Sénat ont lancé une mission d'information relative à l'avenir d'Atos, nos collègues Sophie Primas et Fabien Gay travaillant plus spécifiquement sur cette question.
Enfin, en tant que législateurs, nous ne pouvons que nous interroger sur la nécessité et la pertinence de l'élaboration d'un cadre de régulation adapté. Que pensez-vous de l'adoption du règlement européen sur l'intelligence artificielle ? Selon vous, avons-nous suffisamment anticipé les risques ? Soutenons-nous suffisamment l'innovation ? Je ne doute pas que nous serons amenés à légiférer sur ce sujet dans quelques années. D'ailleurs, pour la petite anecdote, à l'occasion de l'adoption de l'article 16 du projet de loi visant à sécuriser et à réguler l'espace numérique, pour lequel notre collègue Patrick Chaize était rapporteur, nous avons introduit pour la première fois dans notre droit national la notion de « fournisseurs de systèmes d'intelligence artificielle ». Sans doute le début d'une longue série !
Mme Bouverot, M. Aghion, je vous remercie encore de votre disponibilité et vous cède sans plus tarder la parole.
Mme Anne Bouverot, co-présidente de la commission de l'intelligence artificielle. - Je commencerai par évoquer le fonctionnement de la commission. Je salue l'engagement de ses membres et rapporteurs. Nous avons travaillé pendant six mois de manière bénévole, comme il est d'usage pour ces commissions, pour construire des recommandations. Nous avons organisé plus de 600 auditions et nous avons également consulté les citoyens via l'application Agora.
Cette révolution est extrêmement importante. Elle est également extrêmement rapide : il a fallu seulement cinq jours pour que ChatGPT obtienne un million d'utilisateurs, ce qui n'avait jamais été vu. Nos recommandations comprennent donc des montants, mais aussi une rapidité de mise en oeuvre.
Nous pensons avoir rendu un rapport avec un optimisme raisonné. Nous listons les risques. Il y a également beaucoup de potentiel. Il est important de nous mettre en action tout de suite. Si nous n'agissons pas, les systèmes d'intelligence artificielle (IA) se développeront dans d'autres pays, à la main d'autres. Notre message, ce n'est ni excès d'optimisme, ni excès de pessimisme.
M. Philippe Aghion, co-président de la commission de l'intelligence artificielle. - Je précise que je suis professeur au Collège de France, qui a accueilli la commission et a financé toute sa communication. Je tenais à la mentionner.
Il existe beaucoup de rapports sur l'IA, mais aucun ne portait sur son impact économique sur l'emploi et la croissance. Le nôtre comporte donc une partie économique qui essaie de prédire les effets emploi et croissance de l'IA pour pouvoir justifier ensuite les investissements. Il est très didactique et montre quel serait le retour sur investissement.
Cette révolution a suscité à la fois des craintes et de l'espoir. La crainte, c'est qu'elle détruise massivement des emplois en rendant l'humain redondant dans un nombre sans cesse plus grand de tâches et concentre les richesses et le pouvoir dans quelques mains. L'espoir est que l'IA nous permette enfin de sortir de la croissance atone dans laquelle nous sommes enfermés depuis des années.
La crainte d'une IA génératrice de chômage et d'inégalités par du constat que l'IA permet d'automatiser non seulement des tâches pour produire des biens et services, mais également des tâches pour la production d'idées. Par exemple, il y a des tâches qui auraient été inimaginables de confier à des algorithmes, comme la conduite de voiture, la génération d'images, la synthèse de notes, l'aide à la consultation médicale... L'IA fait des choses qu'aucune technologie précédente ne pouvait réaliser. Par ailleurs, il y a un espoir que cela stimule la croissance parce que l'IA permet d'automatiser en partie la production de biens et services, mais elle permet également d'automatiser la production d'idées, ce qui rend la recherche beaucoup plus productive et génère de la croissance.
Nous pensons qu'il ne faut pas dramatiser sur l'emploi ni être excessivement optimiste sur la croissance. Une première étude, sur un échantillon d'entreprises important, compare les entreprises qui utilisent l'IA à d'autres, similaires, qui ne l'utilisent pas. Les premières sont nettes créatrices d'emploi car elles deviennent plus productives, donc plus compétitives, et il y a une demande plus grande pour leurs produits. Les États-Unis eux-mêmes se sont saisis des résultats de cette étude, réalisée grâce aux données de l'Insee.
Certaines professions seront effectivement menacées par l'IA, car une profession, c'est un ensemble de tâches. L'IA permet d'automatiser certaines tâches pour se concentrer sur d'autres, mais il existe des professions, comme peut-être doubleur de film, où l'emploi lui-même est menacé par l'IA. Les entreprises qui adoptent l'IA pour la gestion administrative ou le marketing voient leur emploi en professions intermédiaires administrative diminuer. Il faudra donc adapter le marché du travail. Personnellement, je plébiscite le modèle danois. Je pense qu'il faudra une formation, une éducation et une bonne organisation du marché du travail pour que l'effet global sur l'emploi soit positif. On ne parle plus de « risque existentiel ». Il faudra adapter nos institutions.
Concernant la croissance, nous avons extrapolé sur la base de révolutions précédentes : l'électricité et les technologies de l'information et de la communication (TIC). Sur la base de cette extrapolation, nous disons que la révolution de l'IA devrait permettre d'augmenter la croissance de 1 % par an sur dix ans, ce qui représente quelque chose d'énorme. Il est possible que ce soit trop pessimiste, car l'IA améliore aussi la recherche. Il est également possible que ce soit trop optimiste, car il faut tenir compte des problèmes de concurrence. La révolution des technologies de l'information a d'abord dopé la croissance, mais elle a ensuite baissé parce que les GAFAM ont inhibé la croissance des autres entreprises. Ces entreprises se sont tellement développées par des fusions-acquisitions non contrôlées qu'elles sont devenues tentaculaires et ont inhibé la croissance des autres. Or, aujourd'hui, les grosses entreprises contrôlent d'emblée l'IA. Si nous ne réformons pas les politiques de concurrence, cette IA qui a un potentiel de croissance formidable risque de devenir une barrière à la croissance parce que de grosses entreprises vont inhiber l'innovation. Notre rapport, c'est à la fois de la politique industrielle de l'IA et de la concurrence. Nous pouvons tout à fait combiner des mesures visant à stimuler la concurrence et une réelle politique industrielle.
Nous possédons des atouts pour être des acteurs dans cette révolution. Nous avons les talents nécessaires, de très bons mathématiciens, de très bons ingénieurs, de très bonnes données, notamment en santé. Malheureusement, nous ne savons pas encore les utiliser comme il le faudrait. La France investit trois fois moins que les États-Unis, en proportion du produit intérieur brut (PIB). Sans investissement majeur, nous courons le risque de nous trouver non seulement dépourvus d'entreprises spécialisées dans l'IA, mais de voir nos entreprises existantes perdre en compétitivité parce qu'elles n'auront pas su adopter l'IA.
Au lieu d'investir 3 milliards d'euros sur huit ans, ce qui était prévu jusqu'à maintenant, nous voulons accélérer et passer à 27 milliards d'euros sur cinq ans. Certains évoqueront les problèmes budgétaires en cette période d'économies. Je leur oppose la méthode Draghi : ne pas mettre sur le même plan les dépenses récurrentes et les dépenses d'investissement dans la croissance, à commencer par l'IA. Ce que nous proposons représente seulement 0,3 % des dépenses publiques totales. Il était prévu que la France augmente ses dépenses publiques de 220 milliards d'euros en cinq ans. Il s'agit de choisir quelles dépenses publiques augmenteront plus ou moins vite. Il y a toute une cohérence macroéconomique dans notre rapport.
Mme Anne Bouverot. - Le rapport comporte 25 recommandations. Je soulignerai les plus importantes. La première concerne la formation et la sensibilisation massive et extrêmement rapide, à tous les âges de la vie. Dès la maternelle, il est possible de réfléchir sur la réalité d'une image pour savoir si elle a été trafiquée ou non. Dans l'enseignement supérieur, il faut former des spécialistes en informatique, mais également des personnes qui étudient l'IA et autre chose : l'IA et le droit, l'IA et l'histoire, etc. Il faut enfin traiter de l'IA dans la formation continue, en entreprise et pour les personnes au chômage, parce que 80 % des métiers seront transformés par l'IA. Il est donc très important que les personnes suivent des formations pour éviter d'être remplacées par d'autres qui auront appris à se servir de l'IA.
Notre deuxième recommandation est de créer un plan « France et IA » et d'investir massivement dans l'innovation, notamment dans les start-ups qui deviennent grandes, comme Mistral, afin qu'elles n'aient pas à aller chercher leurs fonds à l'étranger, mais en France et en Europe. Il faut également aider les entreprises à se transformer avec l'IA sous forme d'investissements ou de prêts remboursables. Nous recommandons que les grandes entreprises contribuent à la création de ce fonds IA de 10 milliards d'euros.
L'IA, ce sont des algorithmes et des talents, mais ce sont aussi beaucoup des données et de la puissance de calcul. Nous recommandons de simplifier l'accès aux données, de revenir à l'esprit du règlement général sur la protection des données (RGPD), et peut-être de simplifier des procédures qui freinent l'innovation, notamment dans le domaine de l'accès aux données de santé. La Commission nationale de l'informatique et des libertés (CNIL) devrait conserver sa mission de protection des données à caractère personnel, mais aussi avoir une mission d'innovation responsable. Si étudier les données de santé permet d'en tirer des traitements innovants, ce sera très bénéfique.
Nous pensons qu'il est très important d'avoir plus de puissance de calcul. Nous possédons le supercalculateur Jean Zay au CNRS et un projet de supercalculateur Hexascale est en cours, les autres pays ne cessent d'annoncer des projets plus puissants. Il s'agit d'investir beaucoup plus, pour la recherche, pour les start-ups et pour les entreprises.
Nos talents se font recruter par des entreprises privées, notamment américaines, et notre recherche publique n'a pas les moyens de continuer à les financer. Nous recommandons un pilote pour la recherche publique en IA, avec à la fois un complément de rémunération et une facilitation du travail des chercheurs par rapport aux contraintes administratives et à l'accès aux ressources de calcul, choses qui motiveront les chercheurs à rester.
Nous recommandons enfin une gouvernance internationale de l'IA et des normes mondiales, contrairement à ce que nous avons dans le domaine des normes environnementales, sociales et de gouvernance (ESG). Cette gouvernance ne serait pas uniquement formée des États, mais également de représentants de la société civile et des entreprises, avec un fonds international pour l'IA au service de l'intérêt général. Ces questions seront travaillées dans la perspective du sommet international de l'IA que la France accueillera fin 2024 ou début 2025.
Au-delà de ces recommandations, il y a le sujet IA et planète, ou l'IA et climat. L'IA est à la fois consommatrice de ressources énergétiques et fournit des outils permettant d'optimiser cette consommation. Notre rapport indique comment minimiser cette consommation et cet accès à nos ressources via des recherches sur de l'IA frugale et des modèles plus petits et plus efficaces, et également comment se servir des systèmes d'IA pour optimiser les consommations et les accès aux ressources.
M. Philippe Aghion. - Sur le climat, il faut aider les entreprises à faire la transition vers la production et l'innovation verte. Nous pensons que l'IA peut réduire le phénomène de dépendance à ce qui existait avant.
Mme Dominique Estrosi Sassone, présidente. - Merci pour votre pragmatisme. Nous passons maintenant aux questions.
M. Christian Redon-Sarrazy. - L'utilisation de l'IA dans le domaine de la santé est un exemple emblématique des tensions qui entourent le sujet. Il est impossible de se passer de l'IA dès lors qu'elle représente un potentiel progrès, donc une amélioration de l'offre de soins, mais il est également impossible de ne pas définir un système de régulation. La question de la formation des médecins et des patients se pose également.
Quelles sont vos recommandations sur la question de la régulation et de l'encadrement dans le domaine de la santé et sur la question des usages, notamment pour des publics en situation d'illectronisme ? Quelles sont vos suggestions pour éviter une fracture qui existe déjà, mais qui pourrait devenir encore plus grande ?
M. Bernard Buis. - Quel est votre regard sur l'intelligence artificielle dans les voitures autonomes. Peut-elle accélérer la mise en circulation de tels véhicules ? Quelle est votre analyse des risques concernant l'utilisation des données des utilisateurs ?
Dans quelle mesure l'IA pourrait-elle mieux accompagner nos services publics dans les territoires isolés ?
Mme Amel Gacquerre. - Vous avez parlé de cinq milliards par an pendant cinq ans. Nous sommes pour l'instant autour de 3 milliards sur huit ans. Vous incitez les grandes entreprises à contribuer pour cela. N'existe-t-il pas un risque de privatiser la recherche ?
Vous avez abordé également l'impact de l'IA sur l'emploi en expliquant qu'il s'agissait d'un véritable facteur de croissance, mais vous ne posez pas la question de la relation au travail. Nous ne sommes pas sur une approche quantitative, mais plutôt qualitative et qui pose la question du sens, de l'autonomie, de la responsabilisation. À partir du moment où les tâches simples seront prises en charge par l'IA, seules les tâches complexes resteront à la main des humains, cela pose des questions sur la façon dont nous allons appréhender ces nouvelles tâches complexes et la pénibilité que cela va peut-être créer.
Concernant la course avec les États-Unis et la Chine, il y a une prise de conscience sur la nécessité d'avancer sur ce sujet-là, mais la France est-elle réellement organisée pour le faire ? Avons une réelle gouvernance nationale pour travailler sur ce sujet ?
Mme Anne Bouverot. - Concernant la santé, nous pensons que la régulation et le rôle de la CNIL sont essentiels, mais nous souhaitons nous assurer qu'il puisse y avoir de l'innovation en France, sans quoi les recherches seront menées par des chercheurs internationaux, sur les données d'autres pays. Nous pensons qu'il est tout à fait possible de le faire en respectant le RGPD et nous espérons que ces recommandations seront suivies d'effet.
Concernant la fracture numérique, nous recommandons un plan de formation et de sensibilisation massif. Chacun doit pouvoir se dire que l'IA est facile d'utilisation.
La voiture autonome n'est pas uniquement une question d'IA. Nous ne croyons pas beaucoup au développement de voitures autonomes dans les milieux urbains. Nous pensons beaucoup plus à des transports publics ou à l'automatisation de la conduite sur les autoroutes. Ces données ne nous semblent pas être des données particulièrement personnelles.
M. Philippe Aghion. - Les pages 80 à 84 du rapport montrent comment l'IA peut être un outil pour les services publics. Il ne faut pas que l'IA déshumanise le service public, mais elle peut être un moyen de le rationaliser. Elle peut permettre de gagner du temps sur les cas simples afin de se consacrer aux cas plus difficiles. Le chantier de la réforme de l'État est à reprendre, et l'IA permettra d'améliorer la qualité du service public.
Nous pensons que le dialogue social doit intégrer les enjeux de l'IA. Les partenaires sociaux doivent être formés et actifs. L'IA peut aussi aider à alimenter le dialogue social et à aller vers une réelle cogestion car elle permettra aux partenaires sociaux d'être beaucoup mieux informés sur ce qui se passe dans l'entreprise. Toute technologie peut avoir une bonne ou une mauvaise utilisation. Bien utilisée, l'IA peut humaniser et stimuler le dialogue social. L'idée est de réformer nos institutions, nos pratiques et nos politiques pour que l'IA puisse vraiment non seulement augmenter l'emploi, mais aussi améliorer le bonheur au travail et la qualité du dialogue social.
Mme Dominique Estrosi Sassone, présidente. - Que pensez-vous de notre gouvernance nationale ?
Mme Anne Bouverot. - Il faut regarder le rôle des régulateurs existants. Et c'est dans ce cadre-là que nous recommandons, par exemple, que la CNIL prenne un rôle d'innovation en plus de son rôle de protection des données à caractère personnel. Il faudra également allouer les responsabilités qui viennent du règlement européen sur l'intelligence artificielle (AI Act), mais aussi du règlement européen sur les marchés numériques (DMA) et d'autres régulations, à des institutions françaises. Notre préférence n'est pas de créer une nouvelle agence sur l'IA et sa régulation, mais de regarder la répartition des rôles dans les différentes instances et d'avoir des professionnels qualifiés en IA pour aider ces instances à travailler.
M. Yannick Jadot. - Merci pour votre enthousiasme et merci de rationaliser les choses. C'est ce dont le débat démocratique a besoin. Vous avez évoqué le statut des chercheurs, mais nous rencontrons un problème d'ampleur plus grave : depuis douze ans, nous réduisons l'investissement par étudiant dans notre université, dans notre recherche. Nous avons un problème structurel de réduction de notre investissement sur l'intelligence collective. Vous parlez de 27 milliards d'investissements : quelle est la part qui relève d'une meilleure affectation de nos dépenses ? Notre crédit impôt-recherche dysfonctionne aussi, faute d'être conditionné. Beaucoup d'argent part vers les entreprises sans être conditionné.
Vous avez évoqué les lois anti-concentration, à l'américaine, mais qui ne fonctionnent pas bien aux États-Unis. Comment garantir une meilleure concurrence ?
Il existe un enjeu de bien commun autour de l'IA. Comment gérer démocratiquement la part qui relève du marché et celle qui relève du bien public ?
M. Serge Mérillou. - Ma question concerne les ressources naturelles qui semblent nécessaires aux mesures que vous proposez, notamment faire de la France et de l'Europe un pôle majeur de la puissance de calcul. Vous évoquez également la nécessité de créer des centres de données sur le territoire européen. Pour cela, nous avons besoin de matériaux rares. Aujourd'hui, nous nous fournissons essentiellement à l'étranger et l'extraction de ces ressources a des conséquences sur l'environnement. Faut-il développer l'extraction de ces éléments sur notre territoire ? Pensez-vous que les citoyens sont prêts à en payer le coût environnemental ?
Mme Antoinette Guhl. - Vous dîtes que 5 % des emplois sont directement menacés parce qu'il y aura une réelle transformation de la manière de produire et que 80 % des emplois seront transformés. Cela pose la question de la révolution en matière de formation et d'éducation. Quelles sont les professions directement menacées ?
Nous savons que la France est en retard face à la prédominance des États-Unis dans la recherche sur l'intelligence artificielle. Comment faire pour préserver l'intérêt général et notre intérêt collectif, et non pas les intérêts privés de quelques entreprises américaines ou de quelques secteurs américains ?
Nous avons peu parlé de la protection des droits d'auteur, qui est en train de devenir un grand problème. Nous en avions parlé dans le débat précédent sur la question du journalisme et de la presse, mais cela se pose aussi dans le domaine culturel. Quelles sont vos préconisations ?
M. Philippe Aghion. - Pour l'instant, aucune étude ne montre un impact réel du crédit impôt-recherche tel qu'il est. La question de savoir s'il est optimalement utilisé sort du cadre du rapport.
Nous pensons que nous devons montrer l'exemple avec l'IA. Économiser 900 millions d'euros sur la recherche n'est pas un bon signal. Nous pouvons devenir beaucoup plus attrayants pour les meilleurs chercheurs en leur donnant une puissance de calcul locale, un accès aux données, une carrière de chercheur dans le public, la possibilité de combiner le public et quelques jours dans le privé, d'être beaucoup plus flexibles pour pouvoir bien gagner leur vie et pouvoir bien travailler. Si nous pouvions être au niveau de l'Allemagne, ce serait formidable.
Concernant les ressources naturelles, il est vrai que l'IA participe au réchauffement climatique par l'utilisation d'eau, de silice et de terres rares. Cependant, les processeurs spécialisés pour l'IA ne représentent qu'une part très faible des processeurs produits mondialement. En 2022, ils représentaient moins de 1 % des processeurs de moins de 7 nanomètres, et moins de 0,00026 % de tous les processeurs produits. Ce problème existe, mais il ne faut pas le dramatiser. Nous pouvons l'améliorer en allant vers des modèles plus frugaux grâce à une puissance de calcul locale.
Mme Anne Bouverot. - Toutes les professions qui manipulent la langue, le texte et les images sont menacées par l'IA, c'est pourquoi il faut un plan de formation très large. Cela commencera par les industries créatives. Il faut donc rapidement former dans les métiers de l'image et de l'écrit. Nous recommandons que le droit d'auteur reste et de la transparence afin de permettre aux auteurs de savoir si leurs oeuvres ont été utilisées.
Nous recommandons une plate-forme ou un système permettant de mettre en contact les auteurs et les utilisateurs de leurs données. Quand on est l'auteur d'un livre, on n'a pas de pouvoir de négociation face à OpenAI, mais quand on est un collectif, là on a une capacité de négociation.
Nous recommandons de garder la recherche et l'enseignement publics parce qu'effectivement, il existe un risque énorme de privatisation par les entreprises qui investissent beaucoup dans le domaine de l'intelligence artificielle. Il faut mettre à contribution les entreprises, mais il faut aussi de l'argent public.
Mme Annick Jacquemet. - Comment les entreprises françaises et européennes qui doivent prendre massivement ce virage de l'intelligence artificielle peuvent-elles se prémunir contre d'éventuelles défaillances ? Un concessionnaire automobile californien a vendu une Chevrolet pour un seul dollar parce que son système avait été piraté ou contourné.
M. Patrick Chaize. - Vous avez beaucoup parlé de formation. Avez-vous dressé un état des lieux ?
Madame Bouverot, vous avez été nommée envoyée spéciale du Président de la République pour l'organisation du prochain sommet de l'intelligence artificielle. Qu'en attendez-vous ? Quels sont les objectifs fixés par le Président de la République pour ce sommet ?
M. Franck Montaugé. - Votre rapport aborde-t-il la dimension épistémologique de cette technique ? Quelle est votre pensée de la relation entre l'intelligence artificielle et la dimension éthique, et même métaphysique, de notre humanité ? Certains de vos collègues du Collège de France abordent le sujet, notamment Claudine Thiercelin. Ne croyez-vous pas qu'il faut penser non seulement ce que peut ou fait l'intelligence artificielle, mais aussi ce qu'elle nous fait ou nous fera, dans le but de rester libre au sens des Lumières ?
Mme Anne Bouverot. - Comme toute nouvelle technologique, l'IA renforce la menace, mais aussi la défense. Il faut nous former dans les entreprises, à l'Agence nationale de la sécurité des systèmes d'information (Anssi), etc. À moyen terme, c'est juste une étape de plus. Il n'y a pas à être pessimiste.
Nous recommandons de tripler la formation en ingénieurs et en IA, d'augmenter de 30 % les formations. Il faut aller beaucoup plus vite. Vous trouverez dans le rapport des éléments d'état des lieux.
Concernant le sommet sur l'IA, les recommandations du rapport sont de créer une organisation internationale multi-acteurs, mais avec un périmètre très étroit pour traiter les sujets des normes et des biens communs.
M. Philippe Aghion. - Ce rapport n'est qu'un début, qui ouvre des chantiers de recherche et de discussions. Par exemple, nous démarrons des projets de recherche sur l'économie, sur les effets sur la croissance et l'emploi. Nous voulons également développer l'interface avec la sociologie, avec mon collègue Pierre-Michel Menger, ou avec la philosophie, avec Claudine Thiercelin. Nous voulons vraiment devenir un hub en matière de recherche et de réflexion sur l'IA.
Mme Sophie Primas. - La souveraineté sur les supercalculateurs est une question essentielle, surtout à l'heure où Atos a des difficultés financières. Aujourd'hui, cette activité n'est pas très rentable. Est-elle en danger en France ? Nous avons des talents, des moyens et des résultats, mais je laisse pointer quelques inquiétudes sur nos capacités à faire perdurer tout cela. Quel est votre point de vue ?
M. Philippe Aghion. - C'est pour cela que nous proposons de gros investissements. Nous espérons que d'autres pays européens se joindront à nous, car il existe des domaines dans lesquels nous pouvons collaborer avec d'autres pays. Nous pouvons faire des choses importantes dès maintenant pour développer ces modèles spécialisés et avoir la puissance de calcul nécessaire. Je crois beaucoup à la politique industrielle, qui n'est pas du tout antinomique de la concurrence.
Mme Dominique Estrosi Sassone, présidente. - Merci d'avoir partagé avec nous l'originalité de votre rapport, les craintes, mais aussi l'espoir que suscite cette révolution.
M. Philippe Aghion. - Les pays qui se sont tenus à l'écart des grandes révolutions technologiques se sont toujours trouvés déclassés sur le plan économique et géopolitique. Il ne faut pas manquer cette révolution. Il existe un coût de l'inaction.
Mme Dominique Estrosi Sassone, présidente. - Merci pour vos travaux et de nous avons consacré du temps.
Ce point de l'ordre du jour a fait l'objet d'une captation vidéo qui est disponible en ligne sur le site du Sénat.
La réunion est close à 11 h 50.