Jeudi 30 janvier 2025
- Présidence de M. François Bonneau, membre de la délégation à la prospective, de M. Jean-François Rapin, président de la commission des affaires européennes, et de M. Patrick Chaize, président du groupe Numérique -
La réunion est ouverte à 8 h 25.
« IA : enjeux et perspectives pour les droits humains » : audition de MM. Bernard Benhamou et Jean-Marie Cavada
M. Jean-François Rapin, président de la commission des affaires européennes. - Bonjour à tous. Nous avons le plaisir d'accueillir Bernard Benhamou, secrétaire général de l'Institut de la souveraineté numérique, et Jean-Marie Cavada, président de l'Institut des droits fondamentaux numériques (iDFRights) et député européen honoraire. Ils nous présentent aujourd'hui leur rapport « Intelligence artificielle : enjeux et perspectives pour les droits humains en Europe ». Merci d'être parmi nous ce matin.
Monsieur Benhamou, l'Institut de la souveraineté numérique, créé en 2015, a pour mission de fédérer les acteurs économiques et du numérique sur les enjeux liés à la souveraineté numérique européenne. Vous avez également été délégué interministériel aux usages de l'internet auprès des ministères de la recherche et de l'économie numérique, coordinateur des premières conférences ministérielles européennes sur l'internet des objets et l'inclusion numérique lors de la présidence française de l'Union européenne en 2008, et conseiller de la délégation française au Sommet des Nations unies sur la société de l'information.
Monsieur Cavada, l'Institut des droits fondamentaux numériques se consacre à l'étude, la promotion et la défense des droits fondamentaux numériques. Vous êtes journaliste de formation et avez été élu au Parlement européen entre 2004 et 2019.
Vous nous présentez aujourd'hui votre rapport conjoint, intitulé « Intelligence artificielle : enjeux et perspectives pour les droits humains en Europe ». Il traite de l'impact de cette technologie sur les droits des personnes, notamment ceux des citoyens européens. Vous l'indiquez, « au-delà de leurs effets industriels et sociaux, les technologies d'IA pourraient avoir des conséquences durables sur l'organisation de nos sociétés et sur nos libertés ».
C'est pour cette raison qu'il m'a semblé important que la commission des affaires européennes vous entende. J'ai proposé d'associer à cette audition la délégation à la prospective, qui mène un travail au long cours sur l'intelligence artificielle (IA) dans ses diverses dimensions, et le groupe Numérique. Celui-ci rassemble des sénateurs de toutes les commissions sensibles aux enjeux des innovations dans ce domaine.
Vous consacrez une partie de votre rapport à la régulation européenne de l'intelligence artificielle, soulignant qu'elle « marque une rupture dans la conception même des technologies critiques dans nos sociétés ». Cette loi européenne, pionnière en matière de régulation de l'IA, avait pour objectif de mieux protéger les citoyens européens, mais aussi de stimuler les investissements de l'innovation dans l'IA en renforçant la sécurité du cadre juridique applicable. En résumé, elle veut que l'IA soit digne de confiance et qu'elle évolue dans un cadre juridique clair qui ne bride pas l'innovation.
Vous soulignez les enjeux liés à la régulation européenne de l'IA : l'encadrement des pratiques à risques, mais aussi la protection de la vie privée par le refus d'une IA qui dériverait vers un contrôle politique et social des individus. Vous pointez notamment un risque glaçant : celui d'une divulgation des pensées et des convictions des individus via l'IA. Vous citez l'analyse en masse des données comportementales des internautes pour leur communiquer des publicités ciblées, mais aussi pour les manipuler sur le plan politique ou idéologique. Mais la législation européenne est-elle capable de nous prémunir contre ces risques ? Elle a pour ambition d'encadrer les dérives liées à l'usage de l'IA, mais le temps requis pour son élaboration jusqu'à son entrée en vigueur est sans commune mesure avec le rythme extrêmement rapide des innovations en ce domaine. Ainsi, entre le moment où la proposition de règlement sur l'IA a été publiée et le moment où le texte a été adopté, l'IA générative a fait irruption sur la scène publique, avec son lot de deepfakes et d'inquiétudes. De même, la proposition de directive sur la responsabilité en matière d'IA, que la présidence polonaise du Conseil de l'Union européenne a inscrite à son programme et qui vise à garantir une réparation aux victimes de dommages causés par des systèmes d'IA, est en préparation depuis 2022.
Nous sommes confrontés à un autre enjeu : comment articuler la régulation de l'IA et la protection des citoyens avec l'innovation et l'ambition industrielle ? En d'autres termes, l'Europe va-t-elle se trouver seule à réguler l'IA ? À peine investi, le Président des États-Unis Donald Trump a révoqué le décret présidentiel sur l'IA signé par Joe Biden, fin 2023, via un décret intitulé « Supprimer les obstacles à la suprématie américaine en matière d'intelligence artificielle ». Le ralliement de la Tech américaine au Président Trump met-il en péril les droits humains en Europe, compte tenu de leur toute-puissance, de leurs dérives, sous couvert de liberté d'expression et de leur hostilité affichée à l'égard des lois européennes ?
L'enjeu industriel et l'enjeu éthique me semblent devoir être appréhendés ensemble. Comment peser sur la régulation de l'IA alors que les champions européens sont de tailles modestes par rapport à leurs concurrents américains ? Vous rappelez que le développement industriel de l'IA aux États-Unis a été favorisé par la puissance publique américaine. Encore la semaine dernière, le Président américain a annoncé un plan d'investissement de 500 milliards de dollars dans les infrastructures nécessaires à l'IA - le projet Stargate - sur la durée de son mandat. Est-il réalisable ou réaliste ? Vous nous en direz peut-être davantage. Comment l'Europe peut-elle déployer une stratégie industrielle au service de l'IA conforme à ses valeurs ?
M. François Bonneau. - Bonjour à tous. Je vous prie d'excuser l'absence de la présidente de la délégation à la prospective, Christine Lavarde, retenue par la réunion de la commission mixte paritaire sur le projet de loi de finances. Elle aurait souhaité vous adresser ces quelques mots.
La réunion conjointe de ce matin constitue une initiative particulièrement pertinente. La délégation tient à exprimer sa reconnaissance à Catherine Morin-Desailly, instigatrice de cette rencontre, ainsi qu'à Jean-François Rapin pour son organisation et à Patrick Chaize, qui y associe l'expertise de son groupe d'études.
Le sujet qui nous rassemble aujourd'hui se distingue par son actualité et son dynamisme à l'échelle nationale, européenne et internationale. Chaque jour ou presque, de nouvelles annonces viennent témoigner de son évolution rapide, à l'instar de l'ouverture récente au public du modèle chinois DeepSeek. Parallèlement, l'ensemble des secteurs économiques et de la vie sociale s'approprient ces technologies, et nos concitoyens se sentent un peu dépassés. Cette course effrénée à la généralisation et à la puissance de l'IA revêt un caractère vertigineux. Il est donc impératif d'en prendre pleinement conscience et de s'en saisir avec sérieux. C'est ce que vous faites avec une acuité remarquable dans votre rapport.
La délégation à la prospective s'est engagée depuis plusieurs mois dans une réflexion approfondie sur l'intelligence artificielle, afin d'anticiper ses répercussions sur notre société. Nous avons choisi d'aborder ce sujet sous un prisme spécifique : celui du service public.
Deux principes majeurs ont guidé nos travaux : la nécessité d'exploiter cet outil au bénéfice de l'intérêt général, et celle d'en valoriser le potentiel sans compromettre nos libertés fondamentales, notre humanité et notre souveraineté. C'est pourquoi nous avons adopté une approche concrète et sectorielle, donnant lieu à l'élaboration de rapports thématiques. Trois d'entre eux ont déjà été adoptés. Ils étaient consacrés à l'intelligence artificielle appliquée aux impôts, aux prestations sociales et à la lutte contre la fraude ; au domaine de la santé ; et à l'éducation. Deux autres rapports sont actuellement en phase de finalisation : l'un portant sur l'intelligence artificielle au service des territoires et de la proximité, l'autre sur ses implications en matière environnementale.
À chaque fois, les rapports ont cherché à mettre en lumière des cas d'usage pertinents dans une perspective constructive, tout en identifiant les limites et les risques inhérents à ces technologies, afin de mieux cerner les impératifs de régulation. À cet égard, votre rapport constitue une précieuse contribution.
C'est donc avec un vif intérêt que nous nous apprêtons à vous écouter et à échanger avec vous.
M. Patrick Chaize, président du groupe Numérique. - Bonjour à tous. Je me réjouis que nous ayons pu organiser cette audition conjointe. Permettez-moi également de rendre hommage à nos deux invités, MM. Benhamou et Cavada, pour la qualité de leur rapport consacré aux enjeux et perspectives de l'intelligence artificielle en matière de droits humains en Europe. Votre travail couvre un champ d'une ampleur considérable, puisqu'il embrasse l'ensemble des défis que l'IA pose à nos sociétés et à nos démocraties. Il rejoint des préoccupations maintes fois exprimées au sein du groupe d'études sur le numérique.
Votre analyse est fascinante, bien que sa lecture suscite une certaine inquiétude. Vous alertez non seulement sur le retard technologique de l'Europe, déjà mis en évidence dans le rapport Letta, mais aussi sur la rupture profonde que l'intelligence artificielle représente pour nos sociétés. Vous ne la positionnez pas comme une simple avancée technologique parmi d'autres, mais comme une « méta-technologie transformatrice, la technologie derrière la technologie et tout le reste ». Vous allez même jusqu'à envisager l'émergence de nouveaux cultes fondés sur les avis émis par l'intelligence artificielle. Plus fondamentalement, vous démontrez que l'IA ne constitue pas seulement une révolution des usages, mais bien une révolution politique, qui redéfinit en profondeur notre conception de la réalité, nos opinions et nos modes de gouvernance.
Vos analyses sur l'usage déjà massif de l'IA par certains régimes autoritaires ont particulièrement retenu mon attention, d'autant plus dans un contexte marqué par une instabilité croissante en Europe et par la résurgence d'une forme d'impérialisme technologique en provenance des États-Unis.
Aussi, nous sommes très impatients de vous entendre.
M. Jean-François Rapin, président de la commission des affaires européennes. - Avant de vous donner la parole, j'aimerais rendre hommage à Aude Bornens, cheffe de service de la commission, qui va nous quitter pour d'autres horizons. J'aimerais qu'on l'applaudisse. Elle sera remplacée dès demain par Xavier Moal.
M. Bernard Benhamou, secrétaire général de l'Institut de la souveraineté numérique. - C'est avec beaucoup de gratitude que je souhaite entamer cette intervention. Merci de nous offrir l'opportunité de vous présenter ce travail, fruit d'une collaboration entre nos deux instituts, et qui vise à établir un panorama politique et réglementaire, dans un contexte en constante évolution. Si une actualisation de ce rapport s'imposait, ce qui ne manquera sans doute pas d'être le cas dans un avenir proche, il conviendrait de le réviser en permanence, tant les mutations géopolitiques et technologiques sont rapides.
Sur le plan géopolitique, plusieurs aspects méritent d'être soulignés, notamment les relations avec les États-Unis et les autres grands blocs qui développent ces technologies. L'émergence du modèle chinois DeepSeek suscite encore des débats quant à son originalité. Certains y voient en effet une reprise partielle de modèles préexistants, notamment celui d'OpenAI, ChatGPT. Contrairement aux technologies d'internet qui ont jusqu'à récemment été perçues comme disruptives, les nouvelles avancées en matière d'intelligence artificielle exercent un impact structurant encore plus profond sur nos sociétés.
Au cours des deux dernières décennies, internet a déjà remodelé en profondeur les sphères économiques et stratégiques. L'intelligence artificielle portera cette transformation à un niveau bien supérieur. Contrairement à une idée largement répandue, cette technologie ne s'est pas imposée brutalement. Elle s'est développée progressivement. Certes, l'essor spectaculaire des intelligences artificielles génératives au cours des deux ou trois dernières années les a rendues plus visibles aux yeux du grand public, mais les institutions et les entreprises exploitent ces technologies depuis plusieurs décennies. Leur impact est d'ores et déjà perceptible, mais l'accélération des capacités de traitement et l'aptitude croissante des outils d'intelligence artificielle à s'adapter à l'ensemble des secteurs professionnels constituent une nouveauté majeure. Ces évolutions soulèvent ainsi des enjeux industriels, culturels, éthiques et politiques.
Dès 2016, Sundar Pichai, président-directeur général de Google, annonçait que nous entrions dans une ère où les assistants d'intelligence artificielle seraient omniprésents, intégrés au coeur de nos vies quotidiennes. Leur importance irait bien au-delà de ce que nous avons connu avec le téléphone portable ou les services numériques mobiles.
Pour introduire cette réflexion, permettez-moi d'évoquer une courte séquence issue de Star Trek. Dans cette scène, une femme se trouve prisonnière à bord d'un vaisseau gravement endommagé à la suite d'une attaque. Alors que la destruction du vaisseau semble imminente, elle cherche désespérément un moyen de s'échapper et doit négocier sa survie avec l'intelligence artificielle qui contrôle l'appareil.
Une vidéo est projetée.
On pourrait penser que cet extrait relève purement de la science-fiction. Il n'en est rien. Si l'on observe les développements actuels des véhicules autonomes, une étude menée par le Massachussets Institute of Technology (MIT) auprès de 2,5 millions de personnes fournit des résultats intéressants. Elle montre comment déterminer qui doit être sauvé et qui doit être sacrifié en cas d'accident. À l'échelle globale, elle révèle que l'on choisira naturellement de sauver un enfant, mais pour une raison mystérieuse, on tue systématiquement le chat. Plus sérieusement, cette étude met en lumière l'existence de différences culturelles profondes dans les critères de décision concernant les vies à sauver. En Asie, par exemple, on sauve les personnes âgées, alors qu'en Occident, on privilégie les jeunes.
Les différences culturelles dans la manière même de concevoir les intelligences artificielles pourraient se traduire par des divergences de comportements et des choix politiques distincts. À ce sujet, je vous invite à essayer l'outil DeepSeek, qui, lorsqu'on l'interroge sur les événements de la place Tian'anmen, efface sa réponse en un clin d'oeil et se limite finalement à dire que ce sujet dépasse son champ de compétence, engageant ainsi une forme de censure en temps réel.
La façon dont ces systèmes sont codés n'est pas neutre. Jean-Marie Cavada s'est exprimé à plusieurs reprises sur les données utilisées pour l'entraînement des modèles. Qu'elles soient liées à des droits de propriété intellectuelle ou à des informations personnelles sensibles, elles constituent le coeur du processus. Elles sont un élément fondamental dans la conception des IA. Elles servent également de puissant outil de contrôle des populations. On le constate notamment en Chine.
Shoshana Zuboff, professeure à Harvard, expliquait que « nous pensions chercher sur Google, mais en réalité, c'est Google qui cherchait en nous ». Ces grandes entreprises possèdent une telle quantité d'informations sur nous qu'elles peuvent potentiellement exercer un contrôle sur nos comportements de manière inimaginable à l'époque des journaux, de la radio ou de la télévision. D'une précision inédite, elles sont capables d'agir sur les individus à une échelle sans précédent.
Je peux également évoquer les cyberattaques ayant touché les serveurs de Microsoft Exchange il y a quelques années. Si l'opinion générale y voyait une tentative d'espionnage destinée à récupérer des secrets industriels, l'objectif était tout autre. Ces attaques visaient en réalité à entraîner des systèmes d'intelligence artificielle pour les rendre plus performants et compétitifs au niveau mondial.
Il est aujourd'hui possible de créer des profils sur les réseaux sociaux en quelques fractions de seconde grâce à des outils permettant de sélectionner une multitude de critères. Ce processus peut se réaliser à une échelle industrielle.
Dans le même temps, il est intéressant de noter l'ampleur des suppressions de faux comptes sur des plateformes comme Facebook. Depuis 2017, des millions de comptes frauduleux - jusque 2,2 milliards - ont été supprimés chaque trimestre. À l'heure actuelle, on compte 700 à 800 millions de suppressions de compte par trimestre. Il apparaît clairement que les plateformes facilitent délibérément la création de comptes. Les « fermes à trolls » du peu regretté Evgueni Prigojine en ont tiré parti. Ces structures exploitent des systèmes d'intelligence artificielle capables d'interagir avec les utilisateurs en simulant des échanges humains de manière particulièrement convaincante.
Ainsi, il est possible de créer un mouvement d'opinion en faveur d'un candidat, de multiplier les messages de propagande et, grâce aux interactions obtenues, d'affiner les réponses en fonction des profils des destinataires. Ces techniques ont été utilisées dans des campagnes électorales récentes, notamment sur TikTok et en Roumanie, où une élection a dû être annulée en raison des manipulations dont elle avait fait l'objet.
Dans ce contexte, l'intelligence artificielle entraînera-t-elle une course au moins-disant démocratique dans les années à venir ? Si aucune réponse définitive ne peut être apportée à ce stade, les signaux d'alerte sont déjà préoccupants.
Trois libertés fondamentales, que nous pensions jusqu'alors inaltérables, se trouvent désormais menacées : la préservation de nos pensées privées, la protection contre la manipulation et l'absence de sanctions fondées uniquement sur nos idées. Nous avons longtemps considéré notre esprit et notre conscience comme des sanctuaires inviolables. Or, cette certitude s'effondre. Aujourd'hui, grâce aux courtiers en données, ou data brokers, il est possible d'obtenir des informations plus précises sur un individu que celles qu'il détient lui-même sur sa propre santé, ses comportements ou son profil psychologique. Les profils psychologiques établis à partir des données collectées sur les réseaux sociaux sont souvent plus détaillés que ceux qu'une personne peut percevoir de son conjoint, de ses collègues ou même de ses parents. Il devient ainsi manifeste que nos libertés fondamentales sont profondément remises en cause.
À titre d'illustration, le système de crédit social chinois effectue une notation des citoyens en fonction de leur comportement : respect des normes établies, contenu des publications sur les réseaux sociaux, relations avec le voisinage. Ce dispositif englobe des dimensions personnelles, psychologiques, financières et politiques. Un mauvais score occasionne des restrictions sévères : interdiction d'accès aux transports, refus de crédits pour des achats, impossibilité d'évolution professionnelle. L'individu se retrouve ainsi marginalisé au sein même de la société chinoise.
Ce type de mécanisme ne concerne pas uniquement des régimes autoritaires. Dominic Cummings, coordinateur de la campagne du Brexit, affirmait que le Royaume-Uni serait probablement resté dans l'Union européenne si Victoria Woodcock, responsable du déploiement d'un logiciel de microciblage, avait été renversée par un bus. Ce constat illustre l'impact décisif de ces outils sur des choix politiques majeurs.
Par ailleurs, la désinformation est désormais industrialisée. Pour 400 dollars par mois, vous pouvez aujourd'hui créer un réseau de robots capables d'inonder des millions d'internautes de messages ciblés, et d'y répondre de manière automatisée, sans intervention humaine. Autrefois, de telles campagnes nécessitaient de nombreux collaborateurs. Elles peuvent aujourd'hui être menées avec des moyens dérisoires. Cette réalité rejoint l'idée développée par Kate Crawford dans son Contre-atlas de l'intelligence artificielle, selon laquelle l'IA est devenue de la politique par un autre moyen. En effet, du fait de son influence sur l'opinion publique, la structuration des pensées et les secteurs stratégiques, économiques et militaires, l'intelligence artificielle s'impose désormais comme un outil politique à part entière. Il est donc crucial d'en saisir les enjeux : elle peut servir à renforcer les libertés, mais aussi, malheureusement, à exercer un contrôle accru sur les individus.
Trois événements ont marqué un tournant décisif dans l'utilisation de l'IA et ses implications politiques. En 1997, l'ordinateur Deep Blue a battu le champion du monde d'échecs, Garry Kasparov. En 2015, DeepMind, avec son programme AlphaGo, a vaincu l'un des grands maîtres du jeu de go, Fan Hui. En 2017, Vladimir Poutine a déclaré que l'intelligence artificielle représentait l'avenir, non seulement pour la Russie, mais pour l'humanité tout entière, et que la nation qui prendrait le leadership en matière d'intelligence artificielle dominerait le monde. Cette déclaration sous-entendait non seulement une suprématie militaire, mais également une domination sur les esprits, un enjeu crucial pour les régimes autocratiques et dictatoriaux.
Ces trois événements ont eu pour effet d'éveiller les consciences, en particulier au sein des nations rivales. Ainsi, après la victoire d'AlphaGo en 2015, la Chine a immédiatement élaboré un plan stratégique visant à placer l'intelligence artificielle au coeur de ses priorités de développement pour les années à venir.
De même, en 2017, la déclaration de Vladimir Poutine a suscité une prise de conscience aux États-Unis. Ben Buchanan, conseiller de l'administration Biden sur l'intelligence artificielle, a souligné l'impact de cette déclaration sur l'état-major américain qui a considéré qu'il était impératif d'empêcher la Russie ou la Chine d'acquérir une position dominante dans ce domaine.
Barry Pavel ajoutait que si la technologie a toujours influencé la politique internationale, l'essor de l'intelligence artificielle marque un tournant inédit : désormais, la technologie elle-même peut devenir un acteur géopolitique à part entière.
Ben Buchanan considère que l'IA améliorera les outils de l'arsenal de l'autocrate. Dans les autocraties, les préoccupations éthiques ne seront que des obstacles mineurs. Pendant longtemps, on a cru que les nouvelles technologies contribueraient à contourner les dictatures et à favoriser leur affaiblissement. Or, l'expérience des quinze dernières années tend à démontrer l'inverse. Ceux qui se souviennent des printemps arabes se rappellent sans doute qu'à l'époque, Hillary Clinton, alors secrétaire d'État, affirmait que les États-Unis avaient apporté aux peuples des outils de démocratisation et d'émancipation - Facebook et Twitter. Le recul historique incite cependant à nuancer cette vision.
Sur un autre plan, des recherches sont actuellement menées pour analyser les signaux cérébraux afin d'identifier les mots et les images mentales qui se forment directement dans le cerveau. Le sanctuaire de notre conscience, que l'on croyait inviolable, apparaît désormais menacé. Des entreprises telles que Neuralink, fondée par Elon Musk, développent des implants neuronaux destinés à interagir avec l'activité cérébrale, ce qui pourrait accentuer cette tendance.
Il convient enfin d'évoquer la problématique des deepfakes. Leur principal danger ne réside pas uniquement dans le fait que les individus pourraient être trompés par des contenus falsifiés. Le véritable risque est qu'à terme, plus personne ne croie en quoi que ce soit, y compris lorsque l'information est authentique.
Une vidéo est projetée.
Nous avons ici un exemple frappant d'une technologie permettant de modifier le visage d'un individu filmé pour lui conférer l'apparence de Morgan Freeman, avec un réalisme saisissant rendant toute détection quasi impossible. De même, cette photographie illustre une scène qui aurait pu exister, mais qui n'a jamais eu lieu, mettant en scène Martin Luther King et Donald Trump.
Si ces technologies peuvent paraître ludiques, leur utilisation dans un contexte électoral soulève de sérieuses questions. La capacité à créer des images ou des vidéos fictives attribuant à des personnalités publiques des déclarations ou des actes qu'elles n'ont jamais commis constitue un défi majeur.
Vous évoquiez précédemment la dimension quasi mystique que certaines personnes attribuent à l'intelligence artificielle. De nombreux experts s'accordent à dire que l'adhésion à l'IA peut revêtir une dimension quasi religieuse, certains allant jusqu'à suivre ses recommandations avec un aveuglement préoccupant. Cette propension naturelle de l'esprit humain pourrait être exploitée à l'avenir pour structurer de nouvelles idéologies ou même des cultes.
Examinons à présent quelques réalisations rendues possibles par l'intelligence artificielle générative. Un simple descriptif - qu'on appelle « prompt » - tel que « Une femme élégante marche dans une rue illuminée de Tokyo » suffit à générer une séquence animée de plusieurs secondes, d'un réalisme proche du cinéma. La part d'intervention humaine se réduit ainsi drastiquement, limitée à la formulation du texte initial.
Autre illustration marquante : une scène d'inspiration historique où l'on observe une reine évoluant dans une salle ornée d'or, plongée dans un climat de trahison et de paranoïa. Là encore, tout cela est généré à partir d'une simple série de mots. L'impact de ces avancées sur le marché du travail est indéniable : de nombreux métiers seront profondément transformés, et certains pourraient même disparaître. Plusieurs professionnels du cinéma estiment par exemple que les effets spéciaux traditionnels seront complètement redéfinis.
Autre application fascinante : une société néerlandaise a développé une technologie permettant de donner vie à des tableaux en animant les traits des figures représentées, ouvrant ainsi de nouvelles perspectives dans le domaine de l'art et du patrimoine.
Quelle réponse devons-nous apporter face à ces mutations technologiques ? La régulation est souvent mise en avant, mais nous devons dépasser cette approche défensive. Ayant moi-même contribué à l'élaboration de textes réglementaires, je pense qu'il est temps d'abandonner l'obsession exclusive de la régulation au profit d'une stratégie de développement ambitieuse pour notre écosystème technologique. Nous sommes fragiles si nous ne parvenons pas à structurer une réponse cohérente face aux deux grandes puissances que sont les États-Unis et la Chine, d'autant plus depuis l'élection récente de Donald Trump. Sa politique ne nous fera aucun cadeau. Une posture strictement défensive nous condamnerait à l'effacement. Selon Mario Draghi, cette inaction nous mènerait à une lente agonie européenne. Nous ne souhaitons pas ce destin. Reste à identifier les moyens à mobiliser pour inverser cette tendance.
Mariana Mazzucato, économiste de renom, rappelle avec pertinence qu'aucune des technologies intégrées à l'iPhone - internet, le GPS, les écrans tactiles ou Siri - n'aurait vu le jour sans des financements publics massifs de l'État fédéral américain. En Europe, nous avons fini par croire, à tort, que le marché pouvait se suffire à lui-même. Or, les États-Unis ont, depuis toujours, adopté une politique interventionniste pour stimuler l'innovation et asseoir leur domination technologique.
Vous faisiez référence tout à l'heure à Stargate, cette initiative soutenue par le gouvernement américain. Il convient également d'évoquer l'Inflation Reduction Act, qui constitue un instrument évident de distorsion de concurrence, notamment vis-à-vis des Européens. S'y ajoutent de nombreuses autres mesures d'intervention publique, telles que les dispositifs de défiscalisation mis en place pour favoriser l'implantation des usines Tesla ou encore les subventions directes et indirectes, ainsi qu'un levier particulièrement puissant aux États-Unis : la commande publique.
En 2023, la France a investi 1,69 milliard de dollars dans l'innovation, tandis que les États-Unis en ont investi 67,22 milliards. Entre 2013 et 2022, les États-Unis ont investi 249 milliards de dollars, et la France, seulement 7 milliards.
Si nous ne prenons pas des mesures pour accompagner le développement de nos propres technologies stratégiques, au premier rang desquelles figure l'intelligence artificielle, nous nous enfermerons dans ce que certains analystes désignent déjà comme une « trappe à médiocrité technologique », qui semble caractériser l'Europe ces dernières années. Le contraste est saisissant, surtout si l'on considère que l'Europe est l'un des plus grands marchés de consommation au monde. Elle doit investir massivement dans ses propres technologies stratégiques, à commencer par l'intelligence artificielle.
Le rapport Draghi tire des conclusions sévères, voire alarmantes. L'Europe est aujourd'hui la région du monde la plus ouverte et la plus dépendante. Nos coûts énergétiques sont deux à trois fois plus élevés que ceux de nos concurrents américains ou chinois. Nous accusons un retard technologique considérable, puisque 80 % des technologies que nous achetons sont extra-européennes. Notre ratio commerce-PIB est supérieur à celui des États-Unis et de la Chine. De plus, seules quatre des cinquante premières entreprises technologiques mondiales sont européennes.
En matière de défense, l'Europe demeure très en deçà des engagements initialement prévus, à l'exception de quelques pays comme la Pologne ou la France, qui atteint désormais le seuil des 2 % du PIB consacrés à ce secteur. L'ensemble de ces éléments souligne notre dépendance et la nécessité de structurer une stratégie alternative qui soit à la fois protectrice et génératrice de développement. C'est dans cette perspective que s'inscrivent nos recommandations.
La première d'entre elles s'appuie sur la proposition de Mario Draghi en faveur d'un investissement européen commun. En tant qu'ancien négociateur européen, je sais que cette idée pouvait sembler utopique il y a quelques années. Pourtant, la crise du Covid-19 a changé la donne : à cette occasion, l'Allemagne a accepté le principe d'un investissement commun à hauteur de 750 milliards d'euros. Aujourd'hui, Mario Draghi propose un effort encore plus ambitieux : un programme de 800 milliards d'euros par an, renouvelable, soit 5 % du PIB européen, destiné à soutenir les filières stratégiques.
Il est impératif de mobiliser des ressources à la fois politiques et financières afin d'assurer le développement de nos industries technologiques. Parmi les leviers essentiels figure la commande publique, qui joue un rôle moteur aux États-Unis depuis la mise en place du Small Business Act en 1953. Ce dispositif, inexistant en Europe, oriente une part significative des marchés publics vers les petites et moyennes entreprises. De même, un European Buy Act, ciblant les entreprises stratégiques les plus sensibles, pourrait constituer une réponse efficace au déséquilibre actuel.
Si un sursaut politique et citoyen ne se produit pas rapidement, l'Europe s'engagera dans une trajectoire d'effacement sur les plans politique, stratégique et économique. Sommes-nous prêts à l'accepter ? Nous donnerons-nous les moyens de renverser cette tendance ?
À cet égard, le rapport Letta évoque une proposition intéressante : la création d'un 28e pays virtuel, permettant aux entreprises d'évoluer dans un cadre juridique unifié, à défaut d'un véritable marché unique du numérique. Y harmoniser les réglementations fiscales et légales permettrait de lever les obstacles actuels au développement des entreprises européennes.
L'enjeu est de taille, et il appartient à chacun d'entre nous d'en être conscient et d'agir en conséquence.
M. Jean-François Rapin, président de la commission des affaires européennes. - La réponse financière se trouve sur les marchés capitaux, qui présentent un réel potentiel.
M. Jean-Marie Cavada, président de l'Institut des droits fondamentaux numériques (iDFRights) et député européen honoraire. - Bonjour à tous. Merci d'avoir organisé cette audition. Je connais bien cet hémicycle qui, par sa nature, permet de prendre le temps d'une réflexion approfondie, afin de formuler des analyses pertinentes et d'envisager des solutions adaptées.
Le professeur Bernard Benhamou a brillamment exposé les évolutions progressives que nous observons et les nombreuses questions qu'elles soulèvent. Je serai bref, car l'essentiel de ce rapport est déjà bien exposé. Nous en ferons bientôt une présentation publique, afin de sensibiliser un large public aux enjeux qu'il soulève.
Nous sommes aujourd'hui confrontés à une rupture, à l'émergence d'un nouveau monde. Or, par essence, lorsqu'un changement d'une telle ampleur survient, il est difficile d'en mesurer immédiatement toutes les conséquences. Nous manquons du recul nécessaire pour anticiper précisément ce qui adviendra, et encore plus pour déterminer s'il convient de combattre cette transformation, de l'accompagner ou de l'organiser.
Pour la première fois dans l'histoire de l'humanité, l'homme a conçu des machines qui lui sont utiles, mais qui désormais se servent de lui. L'humain devient ainsi la matière première de son propre service. Je me permets de rappeler les propos d'un ancien dirigeant de Google, qui, en quittant l'entreprise, déclarait : « Lorsque l'on vous dit que ces services ou ces données sont gratuits, c'est en réalité que vous êtes le produit. »
Aujourd'hui, ce n'est plus seulement l'individu, mais bien l'humanité tout entière qui devient la proie potentielle d'un système qui tend à la dépasser. Cette dynamique s'immisce au plus profond de nos activités, de nos pensées et même des dimensions les plus inconscientes de notre être. Face à cela, il nous faut faire preuve de lucidité et de réalisme.
Nous, Européens, avons longtemps considéré que les atteintes aux valeurs qui nous guident devaient être repoussées, maîtrisées ou sanctionnées. Ce principe demeure. Pourtant, depuis près de vingt ans, nous sommes victimes d'une stratégie marketing subtile, déployée par des monopoles technologiques américains. Ce n'est pas parce que nous sommes liés aux États-Unis par des alliances historiques, notamment militaires - lesquelles sont aujourd'hui remises en question -, que nous devons nous interdire toute analyse critique. Rappelons que les États-Unis sont entrés à deux reprises en guerre au XX? siècle avec un retard de deux ans sur la déclaration officielle des conflits, et que ces engagements répondaient à des logiques économiques évidentes.
Ces vérités doivent être dites et repensées à l'aune des transformations actuelles. Nous constatons en effet que l'ordre économique mondial issu de 1944, forgé à Bretton Woods, est en train de vaciller. Ce déséquilibre est déjà perceptible, et sera amplifié par l'émergence de nouvelles dynamiques, notamment de la monnaie numérique. Il est d'ailleurs manifeste que la nouvelle présidence américaine ambitionne d'en faire un levier stratégique, voire un outil d'influence. Nous assistons à l'accumulation d'une richesse qui, fondamentalement, demeure abstraite. Elle ne repose ni sur la production d'objets ni sur la fourniture de services concrets. Elle donnera lieu à des spéculations d'une ampleur considérable, susceptibles de bouleverser l'ordre mondial et de provoquer des bulles économiques dont l'ampleur pourrait reléguer la faillite de Lehman Brothers au rang de simple terrain d'essai.
Un autre facteur de rupture réside dans l'évolution des stratégies militaires. Sera-t-il encore nécessaire, dans les années à venir, de déployer des forces armées sur les continents pour assurer la défense nationale ou l'expansion géopolitique, telles que nous les connaissons aujourd'hui ? Plusieurs technologies émergentes permettent déjà de limiter l'engagement des vies humaines tout en assurant la soumission des adversaires.
Le panorama présenté ce matin, loin d'être une vue de l'esprit, correspond à une réalité tangible. Certains pourraient juger que ces perspectives relèvent d'une peur irrationnelle ou de projections infondées. Pourtant, ces évolutions sont d'ores et déjà en cours. Dès lors, quelles en seront les conséquences et quelles responsabilités incombent aux décideurs publics, et en particulier aux sénateurs ? Il convient de repenser la notion de souveraineté à la lumière de ces bouleversements.
Pendant longtemps, nous avons été exposés à une propagande insidieuse orchestrée par les monopoles américains. Il y a plus d'un siècle, le sénateur Sherman affirmait que les monopoles étaient les véritables ennemis de la démocratie. Cette mise en garde trouve aujourd'hui un écho inquiétant. Ce n'est pas tant l'industrie numérique en elle-même qui pose problème, mais bien sa configuration et l'usage qui en est fait pour accumuler du pouvoir et influencer les comportements.
Les grands monopoles, en pleine expansion, s'apprêtent à pénétrer le secteur économique pour en prendre le contrôle. Ils s'infiltrent également dans le domaine de la défense, menaçant de remodeler cet espace stratégique. En outre, ils détiennent désormais une connaissance approfondie des désirs et des comportements individuels, leur permettant de manipuler les préférences et de provoquer l'obéissance des citoyens.
Les goûts des consommateurs sont étudiés, stimulés par une publicité ciblée et omniprésente, échappant aux régulations classiques. Ces mêmes entités, à la fois détentrices de nos données et acteurs du marketing, deviennent leurs propres agences publicitaires, maîtrisant ainsi les ressorts de nos comportements. Cette emprise dépasse la simple sphère commerciale et remet en cause les fondements du vivre-ensemble, les principes de respect mutuel qui ont structuré nos sociétés depuis la fin de la Seconde Guerre mondiale.
Enfin, il apparaît de manière flagrante que les monopoles technologiques, et en particulier les systèmes d'intelligence artificielle générative, sont désormais capables de défier l'autorité des États, voire de se soustraire complètement à leur contrôle. Voyez, par exemple, la résistance affichée par la Maison-Blanche à l'encontre des initiatives européennes de régulation de l'IA, pourtant encore en cours d'élaboration. Il y a environ trois semaines, un conseiller proche du nouveau Président des États-Unis a même averti que toute persistance de notre part dans cette voie réglementaire pourrait remettre en cause les fondements des relations transatlantiques, y compris le cadre de l'OTAN.
De telles menaces, proférées pour protéger les intérêts de conglomérats technologiques, n'avaient jamais été formulées, même durant la Guerre froide ou sous la pression des puissances soviétique et chinoise. Nous assistons à l'émergence de monopoles qui, par leur envergure, se comportent comme de véritables États, imposant leurs volontés aux gouvernements démocratiquement élus.
De quels atouts disposons-nous ? Je ne suis pas un fervent défenseur de l'approche exclusivement défensive adoptée par l'Europe. Non pas qu'elle soit dénuée de mérite, mais elle ne couvre pas l'ensemble des enjeux. La meilleure preuve en est le marketing intensif déployé sur le continent, à grand renfort de centaines de millions d'euros depuis 2015-2016. J'en ai été directement témoin lorsque j'ai oeuvré pour l'adoption du règlement général sur la protection des données (RGPD), du droit d'auteur ou encore du droit voisin, engagement qui m'a valu des menaces personnelles et sur ma famille. Il ne s'agissait pas d'intimider ma personne en particulier, mais bien d'empêcher l'imposition d'une obligation de partage des revenus et d'un cadre plus contraignant pour ces acteurs dominants.
L'argumentaire marketing employé consistait à affirmer que toute régulation constituait un frein à l'innovation. Cette assertion est fausse, mais elle contient néanmoins une part de vérité. Les obstacles à l'innovation ne relèvent pas des principes politiques de régulation, mais bien d'une myriade de normes que nous avons empilées, pensant, à tort, qu'elles suffiraient à contenir un océan en érigeant de simples digues.
Une régulation politique digne de ce nom doit se situer à l'échelle d'un véritable État, voire d'un super-État. Or, en Europe, notamment en France et aux Pays-Bas, ce type de réflexion demeure un tabou. Pourtant, il faut poser ces questions sans détour afin que chacun en saisisse l'enjeu. La bataille géopolitique qui s'annonce est relativement simple à appréhender : trois grandes puissances se dessinent, auxquelles s'ajoutera peut-être un quatrième acteur. L'Afrique est pour l'heure davantage un marché de consommation qu'un pôle de production technologique, mais il gagnera en influence à l'avenir. Les trois autres continents, en revanche, sont déjà des acteurs majeurs, développant des technologies et des industries à grande échelle.
La vision défendue par Enrico Letta et Mario Draghi ne relève pas de la fiction, mais bien d'une nécessité. Nous accusons déjà un retard de plus d'une décennie. Sans autorité politique européenne forte, nous n'aurons ni les moyens de mobiliser les financements nécessaires, ni la capacité de générer les entreprises indispensables à notre souveraineté économique et technologique.
En France, évoquer une autorité politique supranationale suscite encore des craintes irrationnelles. Certains imaginent un « super-ordinateur » gouvernant d'une main de fer les consciences des 450 millions d'Européens. Pourtant, si l'on observe des modèles tels que la Suisse, l'Australie, le Canada ou le Brésil, on constate que ces pays ont su organiser une répartition des compétences entre différents niveaux de pouvoir, sans pour autant anéantir les autonomies locales, régionales et nationales. Ce principe d'organisation emboîtée permet aux collectivités d'exercer leurs prérogatives, aux régions de jouer leur rôle, à l'État d'assumer les responsabilités qui lui incombent et, enfin, à une autorité continentale de prendre en charge ce qu'aucun échelon inférieur ne saurait gérer efficacement.
C'est là la véritable question : comment structurer un pouvoir régalien capable de financer des projets d'envergure, à l'image de ce que nous avons déjà expérimenté lors de la crise du covid ? Il s'agit de bâtir une capacité de défense, de créer un écosystème technologique européen qui, par nature et par héritage historique, respecterait un socle de valeurs fondamentales. Un tel système ne s'ingérerait pas dans les affaires des échelons subalternes, mais remplirait une fonction stratégique essentielle.
Pourquoi, dès lors, nous trouvons-nous face à une machine bruxelloise produisant des normes et des règlements souvent mal appliqués ? Parce que nous ne nous donnons pas les moyens d'en garantir l'exécution, et que le pouvoir politique supranational fait défaut. Lorsque l'on évoque le Conseil de l'Union européenne, on parle d'une instance où coexistent des visions diamétralement opposées, conduisant à des décisions fluctuantes, à des blocages et à des applications disparates. Ce chaos rappelle parfois les querelles d'une cour de récréation. Or, il faudra tôt ou tard y mettre un terme. Espérons que cela se fera de manière pacifique et démocratique, conformément à nos principes.
Enfin, le dernier outil régulateur mis en place, ou du moins censé l'être, est le règlement européen sur l'intelligence artificielle, l'AI Act. Je rappelle que contrairement aux directives européennes - qui doivent être transposées dans le droit national de chaque État selon ses traditions juridiques -, un règlement s'applique directement dans tous les États membres dès son adoption. Cette disposition est essentielle, car elle garantit une uniformité d'application et évite les disparités qui affaiblissent trop souvent l'action européenne.
L'AI Act a bien été voté, mais il demeure inachevé pour une raison évidente. Ce texte est incomplet et, surtout, tardif : il a été pris de court par l'émergence d'OpenAI le 22 novembre 2022. À ce jour, il reste en discussion, car Bruxelles a trouvé le moyen de rouvrir le débat après le vote souverain du Parlement en invoquant des lignes directrices d'application et, surtout, le processus des trilogues. Équivalents d'un décret d'application en France, ils ne relèvent pas du seul pouvoir exécutif. Trois instances - la Commission, le Parlement et le Conseil - négocient la mise en oeuvre des textes adoptés. Or, la technocratie bruxelloise a réussi, de manière sournoise et presque contraire à la légalité, à introduire des « conférences de lignes directrices », prétendument destinées à appliquer les décisions du Parlement. Elles sont en réalité utilisées pour en modifier la substance.
J'en ai fait personnellement l'expérience lors du vote sur le droit d'auteur et les droits voisins : il a fallu près d'un an pour rétablir le texte dans l'esprit initial voulu par les parlementaires.
Treize comités travaillent sur l'intelligence artificielle. Onze d'entre eux sont, en partie du moins, influencés par des acteurs para-officiels, des représentants des grandes entreprises technologiques américaines ou encore certains universitaires qui regardent avec bienveillance l'hégémonie des modèles américains. Ainsi, l'exécutif européen n'est tout simplement plus à la hauteur des enjeux actuels.
Il faudra donc s'attaquer à cette dérive. Cependant, nous n'y parviendrons pas seuls, avec notre seule volonté politique. La véritable question est celle de la pédagogie des peuples. Hélas, des événements graves devront survenir pour que nous prenions enfin la mesure de la situation. Le rapport d'Enrico Letta et les travaux de Mario Draghi constituent une alerte précieuse : ils ne font que souligner un retard de près d'une décennie. Les véritables bouleversements ont commencé au début des années 2010.
Nous sommes aujourd'hui dans une situation de colonisation économique et technologique, une forme d'impérialisme. Ce constat est certes désagréable, mais il est nécessaire. J'ai vécu aux États-Unis. J'en ai apprécié les contre-pouvoirs qui bénéficient aux citoyens. Mais, depuis le milieu des années 1970, un déséquilibre progressif a modifié cette dynamique, et un désir d'impérialisme s'est affirmé.
Pour la première fois, avec l'administration Trump, nous voyons émerger une stratégie délibérée visant à instrumentaliser la technologie pour faire des autres grands continents - et notamment l'Europe - le marché principal, que l'on ponctionne afin d'accroître la richesse américaine. Nous sommes dramatiquement mal préparés pour faire face à ce danger.
Certains diront que cette situation est inévitable. Pourtant, comment expliquer qu'un pays comme la France - qui, parmi les 27 États membres, dispose de l'une des plus grandes écoles de mathématiques au monde et forme des ingénieurs de très haut niveau - peine à faire émerger des champions technologiques ? La France a produit des médaillés Fields. Pourtant, le directeur de la recherche de l'un des plus grands monopoles technologiques américains, Yann LeCun, est lui-même français. Il a dû partir, parce que les conditions nécessaires au développement de ses recherches n'existaient pas en France. Nous n'avons pas su accompagner ces talents, soutenir leurs découvertes et favoriser l'essor de leurs entreprises.
Je ne dis pas que certaines de ces réglementations protectrices ne sont pas nécessaires, mais il est désormais évident qu'elles ne suffiront plus. Le chiffre de 1,9 % d'investissement, cité tout à l'heure par Bernard Benhamou, est une gifle d'une telle ampleur que l'on pourrait presque, dans un élan défaitiste, conclure que la bataille est perdue d'avance.
Toutefois, l'histoire nous enseigne que l'on ne perd que les combats que l'on n'a pas engagés. Le moment est venu d'agir et de les mener.
M. Jean-François Rapin, président de la commission des affaires européennes. - Avec la séquence de Star Trek diffusée lors de votre intervention, nous nous interrogeons sur le déploiement d'intelligence humaine qu'il a fallu pour que l'IA sauve la vie de l'individu. J'imagine que nous assisterons à une bascule lorsque l'IA sera plus intelligente que l'humain.
Je pense à l'aviation, domaine dans lequel le risque humain est toujours mis en avant lors d'un accident, sans penser au risque lié à la machine. Dans la saga Terminator, l'IA prend le pas sur l'intelligence humaine et pilote le monde. Avons-nous déjà passé ce cap, après lequel la technologie se sauvera elle-même ?
M. Patrick Chaize, président du groupe Numérique. - N'existe-t-il pas une vraie différence entre l'intelligence artificielle applicative et l'intelligence artificielle générative ? J'aimerais connaître votre avis sur la notion de responsabilité adossée à l'IA.
Ensuite, avez-vous des recommandations pour encadrer et réguler l'IA ? À quelle échelle ?
Nous n'avons pas parlé de son impact environnemental, ni des biais et discriminations qu'elle embarque. Que pouvez-vous nous dire à ce propos ?
Enfin, le sujet est-il suffisamment porté politiquement ?
Mme Sylvie Vermeillet. - J'adhère pleinement aux recommandations que vous avez formulées. L'urgence de la situation impose d'agir sans tarder face aux défis qui se dressent devant nous. Il me semble que la priorité absolue réside aujourd'hui dans la préservation de nos démocraties.
Nous avons déjà frôlé le pire à plusieurs reprises, face à la montée en puissance de courants populistes à travers le monde. La France n'échappe pas à cette tendance préoccupante. Je suis convaincue que ces poussées ne résultent pas uniquement des résultats politiques des gouvernements successifs mais qu'elles sont également le fruit de manipulations insidieuses, déjà à l'oeuvre depuis plusieurs années.
Le Sénat s'attache à accomplir un travail de qualité. Nous élaborons des textes de loi réfléchis, nous engageons des discussions approfondies et nous nous efforçons d'apporter des réponses adaptées aux enjeux contemporains. Or, pendant que nous nous consacrons à cet effort législatif, les stratégies de désinformation et de manipulation orchestrées par certains acteurs du numérique - des « ingénieurs du chaos » - progressent à un rythme inquiétant. Il me semble impératif d'accorder à cette menace une attention immédiate, avant même de nous concentrer sur d'autres réformes budgétaires ou économiques. Lorsque les partis démocratiques auront été affaiblis au point de ne plus constituer un rempart efficace, il sera trop tard pour agir.
Lors des campagnes électorales, un candidat peut adresser un message différent à chaque électeur, diffusant 68 millions de discours distincts façonnés sur mesure pour séduire chaque individu. Disposons-nous de moyens techniques et juridiques pour contrer ces pratiques ? Peut-on confondre un candidat qui, au gré de son interlocuteur, affirme tout et son contraire ? La distinction entre le vrai et le faux demeure une notion essentielle en Europe, là où certaines sociétés ont déjà basculé dans l'indifférence généralisée face à la véracité des faits.
Disposons-nous de solutions concrètes pour identifier et dénoncer ces incohérences discursives ? Est-il techniquement possible de révéler ces manipulations, afin d'éviter que notre débat démocratique ne soit perverti par des discours artificiellement façonnés pour séduire, au détriment de la vérité ?
M. Pierre Ouzoulias. - Nous sommes confrontés à un sujet qui nous déborde. Je suis horrifié par ce qui traverse l'océan Atlantique, que certains en Europe nous présentent comme une guerre de libération de la parole, et non comme l'asservissement qu'il est. La réaction de la Commission européenne pourrait être qualifiée de munichoise. Comment pouvons-nous dialoguer et négocier sur ce qui constitue les fondements civilisationnels de l'Union européenne, à savoir la défense de la démocratie ? Nous devons prendre la mesure des enjeux et défendre ce qui constitue le coeur de notre civilisation, la démocratie.
Nous parlons d'intelligence artificielle, certes, mais de quel type d'intelligence ? Elle est fondée sur un outil statistique qui recense des opinions générales et considère que c'est sur la plus répandue qu'il faut fonder un discours génératif. Je pense sincèrement que l'article d'Einstein sur la relativité, publié en 1905, n'aurait pas été pris en compte par cet outil, car il était isolé, qu'il n'était pas lu, jamais cité, et incompris. L'IA serait donc passée à côté de ce qui constitue aujourd'hui un élément majeur de notre évolution.
Dans ce contexte, ne pourrions-nous pas être plus intelligents qu'eux - vous voyez à qui je fais référence - et passer à l'étape suivante, le quantique ? Un investissement massif sur cette révolution, dont les apports me semblent supérieurs à ceux de l'intelligence artificielle, me paraît nécessaire. Ne pourrions-nous pas prendre un temps d'avance pour reprendre une prédominance face aux évolutions en cours ?
Mme Karine Daniel. - Dans quelques jours, la France accueillera un sommet consacré à l'intelligence artificielle. Avant même son ouverture, cet événement suscite une forme de déception, notamment en raison de la concurrence internationale et des annonces faites aux États-Unis par l'administration Trump. Il intervient également dans un contexte budgétaire particulièrement contraint, où les réductions des crédits alloués à l'enseignement supérieur et à la recherche suscitent de vives inquiétudes.
Dès lors, que peut-on réellement attendre de ce sommet ? Quels engagements concrets en résulteront, tant sur le plan financier que politique ? Quelle sera son envergure réelle ? Ne risque-t-il pas de manquer de l'impulsion nécessaire, alors même que ces enjeux devraient, a minima, être abordés à l'échelle européenne ?
Mme Catherine Morin-Desailly. - Votre présentation, de qualité, illustre un travail de fond engagé depuis de nombreuses années, à travers les positions que vous avez adoptées et les alertes que vous avez su formuler à maintes reprises.
Nous sommes à quelques jours de l'ouverture du sommet sur l'intelligence artificielle. Hier encore, nous demandions au ministre Jean-Noël Barrot si cet événement ne se transformerait pas en une simple mise en scène destinée à dérouler le tapis rouge à Elon Musk et à ses partenaires. Ne risque-t-il pas, par cette approche, de préempter le débat ?
Les premières fuites concernant les conclusions de ce sommet laissent craindre qu'il se limite à une série de déclarations d'intention, sans qu'aucune décision concrète ne soit prise en faveur d'une réelle indépendance technologique de la France et de l'Europe. Cette absence de vision stratégique et d'affirmation d'une véritable politique industrielle va, hélas, à l'encontre des préconisations que vous avez formulées.
Au sein de cette assemblée, nous avons toujours défendu l'idée d'une régulation efficace. Elle constitue une condition essentielle pour garantir une innovation équitable et permettre à nos entreprises de rivaliser à armes égales avec les géants technologiques qui ont envahi notre espace européen. Pourtant, l'absence de politique industrielle depuis tant d'années se révèle aujourd'hui désastreuse.
Nous assistons à une véritable bataille homérique entre les États-Unis et la Chine, où les annonces d'investissements en intelligence artificielle se succèdent à un rythme effréné. Dans ces conditions, est-il réaliste de penser que nous disposons encore des moyens de mobiliser les financements nécessaires en Europe pour faire émerger nos propres technologies, en accord avec nos valeurs et nos exigences éthiques ? Sommes-nous en mesure de sortir des dépendances stratégiques dans lesquelles nous nous sommes enfermés, parfois volontairement ?
Enfin, comment parvenir à convaincre la classe politique française de la nécessité impérieuse d'adopter une stratégie claire en la matière ? Depuis des années, nous ne cessons d'alerter sur ces enjeux et d'interroger nos représentants sur la position qu'ils défendent au sein du Conseil européen. Or, force est de constater que les résultats demeurent insuffisants.
Enfin, sur quels États européens pourrions-nous nous appuyer afin de susciter un sursaut collectif et amorcer un mouvement de prise de conscience à l'échelle de l'Union ?
M. Vincent Louault. - Je suis en contact avec une équipe américaine qui travaille sur les enjeux de l'IA liés à l'enfance. J'ai la conviction profonde que l'avenir repose sur l'éducation. Si nous ne nous attelons pas à cette question fondamentale, nous courons à notre perte.
Si nous faisons face à une génération d'enfants dont les capacités cognitives et éducatives s'amenuisent, toute régulation sera vaine. Ces chercheurs m'ont rapporté une expérience marquante : des enfants de huit ans, après avoir utilisé des casques de réalité virtuelle leur donnant l'illusion de nager aux côtés de baleines, se jetaient dans une piscine le lendemain en étant convaincus de savoir nager. Neuf enfants sur dix reproduisaient ce comportement, avec les conséquences dramatiques que l'on peut imaginer.
L'enjeu de demain est donc d'investir dans l'éducation dès le plus jeune âge, d'y placer des garde-fous clairs et de réfléchir aux impacts des nouvelles technologies sur le développement cognitif des enfants. Car l'intelligence artificielle, ce sont aussi ces avatars capables d'adopter le visage d'un proche disparu, recréant ainsi des interactions artificielles qui pourraient altérer profondément la construction psychologique des jeunes enfants. Imaginer un enfant de deux, trois ou quatre ans grandissant dans un univers où l'immortalité numérique devient une norme soulève des dangers considérables.
Mme Florence Blatrix Contat. - Vous avez évoqué l'omniprésence des grands monopoles technologiques, leur influence sur nos économies, sur la défense et, plus largement, sur nos vies. Vous avez également mentionné la fin du système de Bretton Woods tel que nous l'avons connu, posant ainsi la question cruciale de notre souveraineté monétaire.
Vous avez rappelé que la régulation constitue un levier d'action, notamment à travers le règlement encadrant les marchés de crypto-actifs (MiCA). Toutefois, un autre chantier mérite toute notre attention : le développement des monnaies numériques de banques centrales, et en particulier l'euro numérique. Or, nous constatons aujourd'hui certaines réticences de la part d'acteurs bancaires, freinant son déploiement malgré son importance stratégique.
Pensez-vous que nous devrions accélérer la mise en place de l'euro numérique ? Peut-il constituer un véritable outil de consolidation de notre souveraineté monétaire dans un monde en pleine mutation ?
Mme Annick Billon. - L'IA est-elle sexiste ? J'ai le sentiment qu'elle l'est, dans les représentations que nous en avons. Je n'ai pas l'impression que les entreprises s'associant à des puissances politiques soient très défenseures des droits des femmes et de l'égalité.
Messieurs Benhamou et Cavada hochent la tête.
M. François Bonneau. - Thierry Breton était auditionné hier par la Commission des affaires européennes, et ses propos faisaient écho aux vôtres. Il insistait notamment sur la nécessité de ne pas réduire l'Europe à une instance de régulation et de production de normes. Pour autant, il me semble essentiel de rappeler que des règles doivent exister et qu'elles constituent un cadre nécessaire à la protection de nos sociétés.
Dans votre intervention, vous avez évoqué le système de crédit social en Chine, qui, à juste titre, apparaît comme une dérive particulièrement inquiétante. Toutefois, il est intéressant de noter que les autorités chinoises encadrent également l'usage des réseaux sociaux par les jeunes, ce qui peut produire certains effets bénéfiques.
Dès lors, ne serait-ce pas précisément sur ce point que l'Europe pourrait se distinguer en proposant un modèle d'intelligence artificielle éthique et responsable, évitant ainsi les dérives que nous observons ailleurs ?
M. Jean-Marie Cavada. - Le Sommet de l'IA, qui ouvrira ses portes à Paris les 10 et 11 février, sera suivi d'une conférence-débat avec des chercheurs américains dans le cadre du programme « Everyone AI ». Cette rencontre se tiendra dans un salon de Microsoft, preuve, s'il en fallait, que certaines grandes entreprises technologiques ne sont pas systématiquement perçues comme des menaces.
L'enjeu ne relève pas tant de l'intelligence artificielle elle-même que de la logique de puissance qui l'accompagne, et qui a déjà franchi des seuils préoccupants sous l'impulsion des monopoles. Pendant vingt ans, les États-Unis ont dénoncé ces monopoles tout en affirmant vouloir les combattre. Pourtant, la dernière action significative menée par l'État fédéral américain, via la Federal Trade Commission (FTC), remonte à plus de vingt ans, lors de l'affaire AT&T.
Dans une économie censée être soumise à une stricte surveillance en matière de concurrence, il est frappant de constater qu'on a laissé se constituer des concentrations économiques au point de remettre en cause le rôle même des États. Par ailleurs, les États-Unis sont le seul pays dont la législation soumet le monde entier dans la pratique du numérique. La Section 230, adoptée sous l'administration Clinton en 1996, empêche aujourd'hui de tenir pour responsables les plateformes qui permettent la diffusion de contenus problématiques, y compris lorsqu'ils incitent à des actes irréparables. À l'inverse, dans nos démocraties européennes, et en particulier en France, toute communication publique engage la responsabilité de son auteur ou de son diffuseur.
Cela traduit une forme d'impérialisme juridique : par une simple loi, relayée par une domination technologique, les usages numériques d'environ six milliards d'individus à travers le monde se trouvent influencés, voire dictés.
Je ne souhaite ni combattre, ni calomnier le Sommet sur l'IA, bien qu'il me laisse insatisfait sur de nombreux points. Il a néanmoins le mérite d'éveiller l'attention des chefs d'État qui y participeront. Parmi eux, ceux issus de l'Union européenne doivent comprendre que l'heure n'est plus au repli national ni aux clivages exacerbés. L'unité est une condition indispensable pour agir efficacement. Sans cette prise de conscience, nous risquons de nous enliser dans des tentatives vaines.
Je tiens également à exprimer ma stupéfaction face à la faible place accordée aux fabricants de contenu. Cette industrie, qui représente une richesse considérable, se trouve marginalisée dans les débats. Il est aisé de comprendre quels intérêts sont en jeu et quelles forces influencent cette mise à l'écart. Rappelons que les grandes plateformes numériques sont courtisées au plus haut niveau, y compris par des dirigeants d'envergure internationale, ce qui contribue à façonner l'agenda du Sommet.
Cela étant dit, ce rendez-vous constitue malgré tout un moment de communication publique et de sensibilisation. Il permet de poser des questions essentielles.
M. Bernard Benhamou. - Sur la question de l'intelligence artificielle générale, le débat fait rage au sein de la communauté scientifique. La possibilité d'une IA capable d'égaler, voire de surpasser l'intelligence humaine en tout point reste incertaine. Pour autant ce que nous appelons le « sens commun », sans même parler de conscience, demeure totalement étranger aux IA actuelles. Vous avez sans doute entendu parler du phénomène dit d'« hallucination » dans les réponses des IA génératives. D'un point de vue scientifique, tout ce qu'une IA générative produit relève de l'hallucination. L'IA elle-même n'a aucun moyen de savoir si elle dit la vérité ou non. Quant au fantasme d'une super-IA façon Terminator, nous pouvons, pour l'instant, dormir sur nos deux oreilles.
C'est bien davantage la menace démocratique qui doit nous préoccuper, en particulier en Europe. L'hypothèse d'une IA omnipotente dominant l'humanité relève davantage de la fiction que d'une réalité à court terme. En revanche, les risques liés à l'utilisation abusive et mal encadrée de ces technologies sont, eux, bien concrets.
Concernant la distinction entre les IA classiques et génératives, je ne rentrerai pas dans les détails techniques. Jean-Marie Cavada a évoqué le travail de Yann LeCun, l'un des pionniers du deep learning. Je ne reviendrai pas sur l'histoire, mais il existe aujourd'hui des outils d'optimisation et d'adaptation très performants dans des domaines aussi variés que l'industrie, les transports ou la gestion énergétique. Depuis longtemps, l'IA est utilisée pour optimiser, prévoir et assurer la maintenance d'infrastructures complexes. Ces usages sont largement maîtrisés.
La véritable nouveauté réside aujourd'hui dans l'intégration de l'IA dans des processus d'aide à la décision, y compris dans des domaines longtemps considérés comme inaccessibles aux machines. Lorsqu'on a introduit la robotique, on pensait qu'elle concernerait d'abord les tâches les plus simples, les plus répétitives et les moins qualifiées. Beaucoup ont cru qu'il en irait de même pour l'IA. Or, cet outil s'introduit désormais dans des sphères hautement stratégiques et décisionnelles.
Le danger réside alors dans la confiance excessive et parfois aveugle que nous accordons à ces technologies. Une forme de suivisme s'installe, conduisant certains à se fier sans discernement aux avis des IA, y compris dans des domaines où elles ne devraient pas être utilisées. Le cas le plus critique concerne la prise de décision militaire. Certains experts, y compris parmi les plus technophiles, mettent en garde contre toute tentation d'intégrer l'IA dans les processus décisionnels liés à l'usage de l'arme nucléaire.
Enfin, s'agissant du risque populiste, plusieurs interventions ont mis en avant la manière dont les régimes autoritaires savent parfaitement exploiter ces outils à leur avantage. Nous devons également nous interroger sur le développement de certaines technologies encore émergentes, comme la réalité virtuelle. Ces environnements immersifs fragmentent la perception du réel : dans un univers virtuel, chacun peut être exposé à des contenus différents, sans jamais savoir ce que voit son voisin. Cette capacité à moduler les perceptions en fonction des profils des utilisateurs ouvre la voie à une manipulation sans précédent, jouant sur les émotions et les idées de chacun de manière ciblée et extrêmement sophistiquée.
Un scientifique cité dans notre rapport souligne que les manipulations politiques que nous avons connues jusqu'à présent ne sont rien en comparaison de ce qu'elles pourraient devenir lorsque les individus seront immergés dans des univers numériques partagés, bien au-delà des réseaux sociaux traditionnels comme TikTok ou X. Dans ces univers partagés, il sera possible de capter et d'analyser les réactions émotionnelles des utilisateurs en temps réel, ouvrant la porte à des techniques de manipulation d'une ampleur inédite. Je me permets ici de rappeler l'ouvrage Nexus de Yuval Noah Harari, qui exprime ses craintes quant à une colonisation des esprits par l'IA, qu'il qualifie de hacking culturel. Il met en garde contre la possibilité que ces technologies ne façonnent une nouvelle culture, influençant nos pensées et nos émotions bien au-delà de ce que nous pouvons imaginer aujourd'hui.
Ensuite, notre rapport aborde en effet le quantique. Nous y citons le travail remarquable du prix Nobel français Alain Aspect. Il déclarait ne pas être certain que l'ordinateur quantique tel que nous l'imaginons voie le jour. Une telle déclaration, émanant du plus grand spécialiste mondial du domaine, a probablement suscité quelques inquiétudes chez les investisseurs.
Pour autant, je ne pense pas que nous soyons confrontés à une opposition. Si le développement de l'ordinateur quantique aboutit, il représentera une avancée majeure. L'Europe doit donc impérativement investir dans ce domaine, d'autant plus que le rapport Draghi le cite comme l'une des technologies clés aux côtés de l'IA et de la robotique. Il est cependant important de noter que ces développements nécessitent des ressources considérables. L'IA elle-même est déjà extrêmement coûteuse en termes d'infrastructure et de recherche, et les technologies quantiques sont encore plus consommatrices de moyens.
Je ne reviendrai pas sur le Sommet de l'IA, déjà évoqué.
S'agissant de l'euro numérique, nous devons dissiper un malentendu courant : il n'a rien d'une cryptomonnaie au sens du bitcoin. Il s'agit d'une monnaie adossée aux banques centrales. Toutefois, l'un des premiers travaux de préfiguration a été confié à Amazon. Le gouverneur de la Banque de France, arrivé après cette décision, m'a confié qu'il s'y serait fermement opposé s'il avait été en poste à l'époque. Ce choix illustre une certaine naïveté européenne, que nous devons absolument dépasser.
Nous avons déjà connu un précédent lors de la nomination de Fiona Scott-Morton comme cheffe économiste de la DG Concurrence. Elle n'entendait pas renoncer à sa nationalité américaine pour occuper ce poste stratégique au sein de l'Union européenne. Fort heureusement, cette nomination a été annulée.
Jean-Marie Cavada l'a rappelé : au sein des groupes d'experts européens, il n'est pas rare de voir les représentants des chambres de commerce américaines venir nous contredire sur des sujets stratégiques. Nous étions souvent contraints de leur rappeler : « Vous êtes patriotes américains, nous sommes patriotes européens. » Cette vision angélique et irénique doit cesser. Nous devons adopter un pragmatisme réaliste et exploiter les leviers de puissance dont nous disposons, notamment notre force de consommation, même si notre retard industriel dans ces domaines est une réalité.
Mme Morin-Desailly nous demandait s'il était déjà trop tard. La réponse est non. Les évolutions technologiques récentes sont caractérisées par l'accélération des cycles. Les positions de monopole peuvent être remises en cause bien plus rapidement qu'auparavant. Qui aurait imaginé, il y a trois ou quatre ans, que la domination de Google sur la recherche pourrait vaciller ? Nous voyons bien que les IA génératives se substituent progressivement aux moteurs de recherche traditionnels.
Ces transformations vont-elles bouleverser les positions dominantes ? Peut-être, mais soyons lucides : sans un soutien financier massif, l'Europe continuera de décrocher face aux autres puissances. L'un des problèmes majeurs réside dans l'absence d'analyse rétrospective de nos échecs numériques. J'en parle d'expérience : à différentes périodes de ma carrière en cabinet ministériel, j'ai tenté de mener des études sur ce qui n'avait pas fonctionné dans certains programmes. On m'a immédiatement mis en garde. Derrière chaque échec, des responsables en place refusent qu'on leur rappelle leurs erreurs.
Cette situation n'est pas propre à la France : au niveau européen aussi, il est extrêmement difficile de remettre en question certaines doctrines.
Nous devrons, tôt ou tard, adopter un pragmatisme similaire à celui des États-Unis et de la Chine. Il est illusoire de croire que le marché libre et non faussé suffira à garantir notre prospérité et notre indépendance technologique. Ce modèle ne fonctionne pas dans un contexte de compétition mondiale exacerbée.
M. Chaize mentionnait tout à l'heure les mesures de régulation prises en Chine. Je tiens à rappeler qu'en Chine, la version locale de TikTok, Douyin, est massivement orientée vers l'éducation et les sciences. De plus, son usage est limité à 40 minutes par jour pour les jeunes utilisateurs. Pendant ce temps, en Europe, nous avons appris grâce à des documents internes de TikTok que la plateforme pouvait rendre un utilisateur dépendant en seulement 36 minutes.
Nous laissons donc la porte grande ouverte à ces pratiques. Le procès intenté à TikTok aux États-Unis est d'ailleurs révélateur d'une ironie sidérante : la plateforme invoque la liberté d'expression pour se défendre outre-Atlantique, alors même que toutes les plateformes occidentales sont censurées en Chine.
Vous nous interrogiez également sur le lien entre IA et populisme. Plusieurs facteurs convergent aujourd'hui pour fragiliser les démocraties occidentales. L'un des plus préoccupants est le déficit d'attention, notamment chez les jeunes. Développer leur sens critique ne suffira pas. Certains chercheurs ont cru que le citoyen, à lui seul, pourrait se défendre face aux géants du numérique. C'est une illusion. L'asymétrie est totale : ces plateformes savent tout de nous et disposent d'outils extrêmement sophistiqués pour influencer nos comportements. Le développement du sens critique est nécessaire, mais il ne suffira jamais face à une telle puissance de manipulation.
C'est pourquoi la régulation est indispensable. Nous avons vu ces dernières années comment certaines plateformes ont été utilisées pour influencer des élections, en Roumanie récemment, mais aussi lors des scrutins précédents. Il ne s'agit pas de faire basculer 20 % d'un électorat d'un coup - quoique cela pourrait devenir envisageable à terme -, mais d'influencer ces quelques pourcentages d'indécis qui déterminent souvent l'issue d'une élection.
S'y ajoutent deux tendances inquiétantes : la culture de l'immédiateté et un inquiétant déficit de mémoire collective. Les récentes statistiques sur la connaissance historique des jeunes en témoignent : 46 % des jeunes Français ignorent ce qu'a été la Shoah, contre 12 % en Allemagne.
Ce contexte offre un terreau idéal au populisme politique, mais aussi aux idéologies extrémistes. Les réseaux sociaux en sont des vecteurs redoutables, et l'intelligence artificielle amplifie encore ce phénomène en permettant des manipulations d'une précision et d'une efficacité jamais vues auparavant.
M. Jean-Marie Cavada. - Nous alertons avec force sur des dangers bien réels. Il est crucial de réveiller les consciences et de pousser les législateurs et gouvernants à agir, malgré la pression des lobbies qui voudraient sanctuariser cette « nouvelle merveille du monde » censée améliorer notre civilisation.
Personne ici n'est contre l'intelligence artificielle. En revanche, nous dénonçons la captation de technologies par des puissances poursuivant des objectifs bien précis, dont le premier est un enrichissement économique démesuré. Vers quoi nous mènera-t-elle ? C'est précisément ce déséquilibre des rapports de force que nous devons combattre, dans l'intérêt de l'Europe.
On nous répète que la régulation est un frein à l'innovation. Quelle absurdité ! Si c'était vrai, croyez-vous qu'une industrie automobile aurait pu se développer à travers le monde alors que chaque pays possède son code de la route ? De plus, nous n'aurions jamais développé les alliages ultralégers, les carburants optimisés ou les automatismes de vol. Malgré l'accident tragique ayant eu lieu hier soir à Washington, nous savons tous que le nombre de morts dans les airs est bien inférieur à celui des décès sur les routes.
Cette idée selon laquelle toute régulation serait néfaste est un pur produit de marketing politique, qui s'est imposé en Europe depuis une quinzaine d'années, et c'est stupéfiant.
J'aimerais conclure sur un point essentiel : nous apprenons aux enfants à lire dès leur plus jeune âge, dès la maternelle. Il est désormais essentiel de leur enseigner le numérique et, surtout, son évolution la plus récente : l'intelligence artificielle. Celle-ci peut être un formidable levier de progrès, notamment dans des domaines comme la recherche médicale, qui suscite une admiration légitime. Mais l'IA n'a pas créé Apple, ni Amazon, ni cet étrange personnage qui, visiblement, n'a jamais vu Le Dictateur de Charlie Chaplin : Monsieur Musk. Je pense d'ailleurs que la nouvelle présidence américaine ne devrait pas s'appeler Trump, mais Trusk. A-t-on déjà vu un industriel, par la seule force de sa fortune, s'immiscer à ce point dans le gouvernement d'un grand pays, influencer les élections, calomnier un Premier ministre britannique, remettre en cause le processus électoral américain, et - pire encore - minimiser des groupuscules néonazis qui, eux, promeuvent et saluent Hitler ?
M. Jean-François Rapin, président de la commission des affaires européennes. - J'ajoute qu'il a financé les campagnes d'Obama et de Biden également, en fonction des résultats des sondages.
M. Jean-Marie Cavada. - Bien entendu. Et pourtant, il ne se passe rien. La réaction de la Commission européenne est d'une indigence stupéfiante. Mais je ne compte pas sur Mme von der Leyen pour tenter d'ériger une véritable autorité européenne qui prendrait sa source dans les travaux de Robert Schuman. Dans ses notes personnelles, il a livré une véritable leçon de morale géopolitique : « Plus jamais ça. » Par-là, il entendait « plus jamais l'industrialisation de la barbarie », mais aussi plus jamais de conflits résolus par la guerre, alors qu'ils pourraient l'être par la discussion et le dialogue. Je ne suis pas certain que ses mots soient si éloignés du sujet qui nous occupe ce matin.
M. Jean-François Rapin, président de la commission des affaires européennes. - Merci pour vos propos très clairs, parfois disruptifs. Merci de nous avoir éclairés sur un sujet que vous maîtrisez parfaitement.
Cette audition a fait l'objet d'une captation vidéo, qui est disponible en ligne sur le site du Sénat.
La réunion est close à 10 h 25.