COMPTES RENDUS DE LA CE INFLUENCES ETRANGERES

- Présidence de M. Dominique de Legge, président -

La réunion est ouverte à 15 h 30.

Audition de M. Joffrey Célestin-Urbain, chef du Service de l'information stratégique et de la sécurité économiques (SISSE)

M. Dominique de Legge, président. - Mes chers collègues, j'ouvre nos travaux du jour en accueillant M. Joffrey Célestin-Urbain, chef du Service de l'information et de la sécurité économiques (SISSE).

Monsieur, je vous remercie de vous être rendu disponible pour éclairer les travaux de notre commission d'enquête.

Vous pourrez commencer par situer votre service dans la galaxie de l'organisation administrative avant de nous présenter un état des lieux des opérations d'influences étrangères dans les domaines économiques et technologiques. Cette audition sera en outre l'occasion d'une présentation de la mise en oeuvre du dispositif de contrôle des investissements étrangers en France.

Vous nous indiquerez également quelles sont les modalités de la coordination interministérielle de notre politique de sécurité économique face aux opérations d'influences étrangères.

Avant de vous donner la parole, il me revient de rappeler qu'un faux témoignage devant notre commission d'enquête est passible des peines prévues aux articles 434-13, 434-14 et 434-15 du code pénal. Je précise également qu'il vous appartient, le cas échéant, d'indiquer vos éventuels liens d'intérêts ou conflits d'intérêts en relation avec l'objet de la commission d'enquête.

Je vous invite à prêter serment de dire toute la vérité, rien que la vérité, en levant la main droite et en disant : « Je le jure. »

Conformément à la procédure applicable aux commissions d'enquête, M. Joffrey Célestin-Urbain prête serment.

Nous sommes convenus que cette audition se tiendrait à huis clos, en sorte que vous puissiez vous exprimer le plus librement possible.

Vous avez la parole pour un propos liminaire d'une durée de quinze à vingt minutes.

M. Joffrey Célestin-Urbain, chef du Service de l'information stratégique et de la sécurité économiques. - Je vais commencer par situer le SISSE dans le maquis administratif : il s'agit d'un service de la direction générale des entreprises (DGE), l'une des directions de Bercy, c'est-à-dire du ministère de l'économie, des finances et de la souveraineté industrielle et numérique. Ce service existe - et est abrité par la DGE - depuis 2016 ; il est lui-même le résultat de la fusion de deux organismes, une délégation interministérielle à l'intelligence économique et un service de coordination à l'intelligence économique qui relevait de Bercy. Ces deux structures ont coexisté pendant une dizaine d'années.

Le SISSE est le bras armé de la politique de sécurité économique du Gouvernement. Il a la particularité d'avoir de fait une compétence interministérielle - nous coordonnons toutes les administrations qui concourent à cette politique - mais d'être hébergé à Bercy, héritage de l'hybridité qui préexistait à sa création - une patte à Matignon, une patte à Bercy. Nous faisons vivre ces deux logiques au quotidien : nous bénéficions de toute la connaissance économique de Bercy, sectorielle et thématique, mais notre positionnement interministériel nous permet d'être immergés dans un écosystème plus large. Nous travaillons très étroitement avec les services de renseignement, qui sont très actifs en matière de renseignement économique, en particulier la direction générale de la sécurité intérieure (DGSI) et la direction du renseignement et de la sécurité de la défense (DRSD), mais aussi la direction générale de la sécurité extérieure (DGSE). Dans un univers « Bercy pur », sans dimension interministérielle, nous aurions moins accès à ces services.

Notre mission est de protéger les actifs stratégiques de l'économie française, matériels et immatériels, face aux menaces étrangères. Nous ne traitons ni les sujets franco-français - d'autres services de l'État s'occupent de tout ce qui a trait aux relations entre donneurs d'ordre et sous-traitants français - ni les problèmes qui concernent les entreprises françaises dont nous considérons qu'elles ne relèvent pas de la souveraineté économique.

Nous travaillons sur la base de listes structurantes d'actifs stratégiques, qui correspondent aux entités sur lesquelles nous veillons et que nous protégeons contre les ingérences économiques étrangères. Ces listes n'existaient pas avant 2019 : le périmètre de ce que l'État entend par « sécurité économique » n'était pas précis. Désormais, dès lors que l'on repère un événement impliquant un acteur étranger et qu'une des entités desdites listes est impliquée dans cette transaction, on sait que l'on est dans le champ de la sécurité économique.

Nous nous sommes dotés de trois listes : une liste d'entreprises stratégiques qui répond à une approche large de la sécurité économique - elle va bien au-delà du CAC 40 et du SBF 120 et bien au-delà des seules entreprises de la défense et de la sécurité ; une liste de technologies critiques pour l'économie française, qui représente une vision prospective du potentiel d'innovation que nous voulons protéger ; une liste plus récente des laboratoires publics de recherche sensible, élaborée en lien avec le ministère de l'enseignement supérieur, de la recherche et de l'innovation (Mesri). Nous marchons donc sur ces trois « pattes ». Il était important d'ajouter la recherche à notre périmètre : si nos entreprises industrielles étaient plutôt correctement protégées contre les rachats, donc sur le plan capitalistique, nous avions identifié en revanche, au fil des années, un angle mort dans le domaine de la recherche, zone de vulnérabilité exploitée par nos rivaux étrangers. Il arrive que ces rivaux, je le précise, soient tout simplement des « prédateurs », des pays qui remontent les chaînes de valeur pour recruter directement des chercheurs ou financer les bourses de thésards en France pour s'introduire dans des laboratoires. Nous couvrons désormais cette problématique.

Notre travail, au quotidien, est de collecter et traiter toute information potentiellement pertinente qui révélerait une menace étrangère sur l'une de ces entreprises, technologies ou laboratoires : le SISSE est une machine à aspirer des informations en provenance des services de l'État, les services de renseignement étant notre source la plus importante, mais aussi de nos propres capacités de veille, qui nous permettent de repérer dans nos bases de données des faisceaux d'indices, des menaces futures, des signaux faibles.

Fait intéressant, de plus en plus d'entreprises viennent nous voir spontanément : elles ont compris qu'elles ne pouvaient se vendre à un partenaire étranger ou nouer des partenariats qui présentent un risque du point de vue de la souveraineté sans en référer à l'État à un moment ou à un autre. Pendant longtemps, les entreprises ont eu une sorte de sentiment d'impunité, en l'absence de réponse forte de la part de l'État. Désormais, elles sont de plus en plus nombreuses à vouloir anticiper le problème avec nous : elles n'attendent pas que la prise de contrôle par une entreprise étrangère soit signée ou que la levée de fonds qu'elles préparent soit engagée pour consulter le SISSE. Elles veulent savoir, concrètement, ce qu'elles ont ou non le droit de faire : peuvent-elles se « marier » avec tel ou tel acteur étranger ? Telle opération est-elle interdite ou autorisée ? À quelles conditions ? Voilà le genre de questions qu'elles nous posent.

Si les entreprises ont le réflexe de venir nous voir, cela va élargir considérablement la surface des informations dont nous disposons ; c'est d'autant plus important pour nous que nous n'avons pas d'informations « captives » : les entreprises n'ont aucunement l'obligation, administrativement parlant, de venir voir le SISSE, en cas de menace de sécurité économique. Nous ne bénéficions pas des mêmes facilités que certains services de renseignement - du reste, nous ne sommes pas un service de renseignement -qui récupèrent des informations par la réglementation - ainsi des déclarations de soupçon adressées à Tracfin.

Nous collectons donc toutes ces informations et sommes chargés d'extraire, dans ce flux qui représente plusieurs milliers, voire plusieurs dizaines de milliers, de signalements chaque année, ce qui représente une véritable menace économique étrangère. C'est à nous de qualifier un événement de menace. Le cas échéant, nous avons une obligation de résultat : celle d'éteindre cette menace étrangère par tous moyens, ce qui prend plus ou moins de temps, vous pouvez l'imaginer, en fonction de la complexité du dossier, de l'acteur impliqué - État ou acteur privé, le second pouvant être le faux-nez du premier. Lutter contre cette menace a de surcroît des conséquences diplomatiques qu'il faut savoir peser. Notre objectif de performance est de « un pour un » : une menace égale une extinction de menace - nous devons tout neutraliser.

Quelques chiffres : nous avons mis en place notre plateforme de veille interministérielle en 2020, à la sortie de la première phase du covid ; nous avons traité 353 menaces économiques étrangères en 2020, 478 en 2021, 694 en 2022, 968 en 2023. Cette augmentation qui peut paraître inexorable s'explique par deux types de facteurs : une montée brute de la menace étrangère, liée à des raisons structurelles relevant de la géopolitique mondiale, et la montée en puissance de notre dispositif lui-même. Nous voyons plus de choses, nous voyons des choses plus tôt, et le périmètre que nous surveillons est allé en s'élargissant.

Je donne deux exemples de cet élargissement.

À la « faveur » de la crise du covid, en avril 2020, nous avons ajouté les entreprises de biotechnologie à la liste des entreprises que nous avons la faculté de contrôler au titre de la surveillance des investissements étrangers en France (IEF).

Idem, récemment, avec les énergies renouvelables : il fut un temps où nous ne pouvions pas contrôler le rachat d'entreprises du secteur des énergies renouvelables lorsqu'elles en étaient à un stade amont de leur phase de recherche et développement (R&D), car il fallait à chaque fois démontrer qu'elles étaient essentielles à l'approvisionnement électrique de la France, ce qui, s'agissant de start-up, s'avère quasi impossible.

Autrement dit, nous avons continuellement élargi notre champ de vision. Grâce à la mobilisation des services de renseignement et des entreprises elles-mêmes, nous voyons de plus en plus de choses.

La menace économique étrangère que nous répertorions peut se décliner selon les secteurs ou les acteurs : 48 % de la menace que nous observons est une menace de type capitalistique, c'est-à-dire consiste en une prise de contrôle d'entreprises stratégiques françaises par des intérêts étrangers potentiellement problématiques ou par des « fonds activistes », qui prennent une participation au capital d'une entreprise cotée et déclenchent des campagnes très agressives dans le but d'en évincer les dirigeants ou de pousser la société à optimiser leur performance financière. Le deuxième grand « paquet » de menaces, qui représente 39 % du total, comprend tout ce qui concerne les atteintes à la propriété intellectuelle et aux données sensibles des entreprises. Vous mesurez ainsi toute l'étendue de notre action : nous ne nous limitons pas aux opérations « classiques » de Bercy, celles qui sont régies par les décrets Villepin, Montebourg et Le Maire relatifs au contrôle des investissements étrangers.

Quels sont les secteurs les plus visés ? Le premier est celui de la santé et des biotechnologies - 16 % des menaces -, le deuxième celui des transports - 15 %, le troisième celui du numérique et de l'électronique, hardware et software confondus - 14 %. Ce troisième secteur inclut l'intelligence artificielle, le logiciel, la blockchain, l'informatique quantique, mais aussi des choses très « physiques » : atteinte aux réseaux de télécommunications français, prise de contrôle dans le secteur des semi-conducteurs. Le quatrième secteur comprend tout ce qui concerne l'enseignement supérieur, la recherche et l'innovation - 13 %, ce qui n'est pas négligeable ; certains pays y concentrent tous leurs efforts.

Les vecteurs utilisés sont pour la moitié le vecteur capitalistique - rachat de parts au capital, obtention de droits de vote, donc influence sur la gouvernance -, pour un quart le vecteur humain - débauchage d'experts français dans certaines filières stratégiques, intrusion de chercheurs étrangers dans des laboratoires soumis à contrôle d'accès, espionnage industriel.

Deux autres vecteurs de déstabilisation sont assez récurrents. Le vecteur juridique, premièrement, renvoie à des procédures administratives ou judiciaires étrangères diligentées à l'encontre d'entreprises françaises par des concurrents étrangers ou par des autorités de poursuite, notamment anglo-saxonnes. De telles procédures peuvent placer une société dans une situation compliquée; elles touchent les grands groupes, mais aussi de plus petites entreprises.

J'ai en tête l'exemple d'une PME technologique, leader français et européen, qui s'est vu du jour au lendemain intenter un procès aux États-Unis par son concurrent, dont le chiffre d'affaires était vingt fois supérieur. Cette entreprise, dont les fondamentaux étaient extrêmement sains et le rythme de croissance très élevé, était en phase de préparation de sa levée de fonds, avec des perspectives très prometteuses. Malheureusement, elle a été stoppée net par ce procès ; pendant deux ans, elle n'a pu attirer d'investisseurs. Nous sommes intervenus, via des fonds publics, pour « dérisquer » des investisseurs français et permettre à l'entreprise de continuer à financer ses frais d'avocat - pour une entreprise dont le chiffre d'affaires s'élève à une vingtaine de millions d'euros, il est en effet insoutenable de lâcher 1 million d'euros tous les quatre mois dans le cadre d'un procès aux États-Unis. Nous l'avons aussi protégée sur le volet relatif à la transmission d'informations sensibles, car les procédures judiciaires à l'étranger sont souvent l'occasion de capter des informations très sensibles pour l'entreprise et pour la souveraineté.

Dernier vecteur : le cyber. Nous ne répertorions pas toutes les attaques cyber - c'est l'Agence nationale de la sécurité des systèmes d'information (ANSSI) qui s'occupe des attaques contre les collectivités locales ou les hôpitaux -, mais nous intervenons dans ce domaine à deux égards : d'une part, lorsqu'une attaque cyber touche l'une des entités stratégiques que j'évoquais et menace sa survie et, d'autre part, pour contrôler les rachats d'entreprises stratégiques de la filière cyber française.

Le paysage de la menace économique étrangère comprend à la fois des ingérences caractérisées - et parfois des opérations illégales et clandestines - et des opérations nettement plus « habituelles » en économie de marché : lobbying, influence. Faut-il qualifier de menace pour la sécurité économique française les actions de lobbying des grandes plateformes du numérique à Bruxelles ? On aurait tendance à dire oui, mais, lorsque des entreprises françaises font de même, on penche plutôt pour dire qu'un tel lobbying relève du jeu légitime. L'Inflation Reduction Act, programme massif de subvention aux énergies vertes assorti d'exigences de localisation aux États-Unis, relève-t-il de la sécurité économique ? L'importation massive de véhicules électriques chinois est-elle un problème de politique commerciale ou de sécurité économique ? Au bout du compte, tout cela se rejoint un petit peu, mais on navigue là dans une sorte de zone grise ; notre rôle est précisément de donner des repères à nos autorités politiques : telle opération est légitime, il est possible de laisser faire ; telle autre ne l'est pas, il faut la bloquer ou a minima l'encadrer.

Quels sont les pays les plus représentés parmi les sources de menaces économiques étrangères ? Deux pays dominent le classement ; vous pouvez deviner leur identité. En tout état de cause, la carte de la guerre économique ne se superpose pas strictement avec la carte des alliances militaires et géostratégiques. La sécurité économique est de toute façon un univers où la notion d'allié n'a guère de sens : on y a plus ou moins des alliés, selon les circonstances, selon les secteurs, etc.

Que faisons-nous de toutes ces alertes ? Nous avons plusieurs moyens de les neutraliser, à commencer par la dissuasion informelle. Il nous arrive de recevoir des dirigeants d'entreprises françaises ou des patrons de fonds d'investissement étrangers en leur disant : « Ne faites pas cette opération, car nous la bloquerons ». Dans certains cas, cela marche, dans d'autres non. Il arrive que l'investisseur nous remercie : si l'on prévient en amont l'investisseur étranger qu'il n'a aucune chance d'aller au bout de son deal, car il finira par recevoir une réponse négative de la part de l'État français, il économise six mois de due diligence avec banques d'affaires et cabinets d'avocats. Certains dirigeants d'entreprises françaises acceptent l'augure, d'autres poursuivent en pensant que nous bluffons, mais finissent par le regretter.

Nous utilisons aussi des instruments plus classiques. L'instrument réglementaire le plus connu est le contrôle des investissements étrangers en France, qui nous permet d'encadrer, de refuser ou d'autoriser des franchissements de seuil. Dès qu'un investisseur extra-européen prend plus de 25 % des droits de vote d'une société stratégique française - 10 % pour une société cotée -, il doit obtenir une autorisation du ministre de l'économie avant de mettre en oeuvre cette opération. Le ministre a quatre choix possibles.

Il peut décider, premièrement, que l'opération n'entre décidément pas dans le champ du contrôle et qu'il n'y a donc pas lieu de l'écarter ; il peut juger, deuxièmement, qu'elle entre certes dans le champ du contrôle, mais que les risques pour la souveraineté sont limités, parce que l'acteur étranger n'est pas défavorablement connu ou parce que l'entreprise française n'est pas particulièrement stratégique.

Les deux autres options sont un peu plus contraignantes pour l'investisseur. Le refus, troisièmement, est relativement rare et ciblé sur les cas les plus problématiques - l'État communique assez peu sur ce genre de situations, mais il serait faux de croire qu'il n'y a jamais de refus. Quant à la quatrième option, nous l'utilisons couramment, davantage que la moyenne des autres États européens : c'est l'autorisation sous condition, qui consiste à autoriser la prise de contrôle en l'assortissant de garde-fous de souveraineté -protection des informations sensibles, maintien en France des activités industrielles et de R&D, etc. Le SISSE s'est donné les moyens de contrôler l'effectivité de ces conditions, ce qui n'a pas toujours été le cas. Nous avons diligenté 80 contrôles l'année dernière ; les investisseurs et les cabinets d'avocats ont bien compris qu'ils ne pouvaient plus passer entre les gouttes, ce qui démontre que l'exécution des décisions administratives est un aspect important de la robustesse du dispositif, au-delà du volet législatif.

Un autre instrument réglementaire est à notre disposition : la loi du 26 juillet 1968 relative à la communication de documents et renseignements d'ordre économique, commercial, industriel, financier ou technique à des personnes physiques ou morales étrangères, ou loi dite de blocage. Ce texte visionnaire et « panoramique » interdit la transmission d'informations de souveraineté à des autorités étrangères. Son article 1^er bis « interdit à toute personne de demander, de rechercher ou de communiquer [...] des documents ou renseignements d'ordre économique, commercial, industriel, financier ou technique tendant à la constitution de preuves en vue de procédures judiciaires ou administratives étrangères ou dans le cadre de celles-ci », c'est-à-dire sans passer par les canaux de coopération habituels.

Cette loi a été moribonde pendant plus de cinquante ans ; en 2022, nous l'avons ressuscitée sans y toucher, en lui donnant une portée réglementaire et administrative via un décret et un arrêté - décision a été prise de ne pas ajouter au dispositif une couche normative trop épaisse. Voici ce que nous avons dit aux entreprises à cette occasion : pour traiter les demandes intrusives de transmission d'informations qu'elles reçoivent de la part d'autorités étrangères, il existe un seul guichet au sein de l'administration, le SISSE, qui produit des avis qu'elles pourront verser en procédure dans le cadre de ces procédures étrangères. Depuis 2022, une centaine d'entreprises sont venues nous voir - auparavant, nous traitions quatre ou cinq dossiers par an. Nous produisons à leur demande un courrier signé par mes soins ou par ceux du directeur général des entreprises où il est indiqué en substance qu'elles ne peuvent transmettre telle ou telle information demandée par la cour de justice ou l'autorité des marchés financiers de tel ou tel pays sans que l'autorité étrangère active entre en communication avec son homologue français, la transmission de cette information étant en tout état de cause prohibée au titre de la protection de la souveraineté si elle ne passe pas par les canaux d'entraide judiciaire ou administrative internationaux.

Cela change tout : l'entreprise française peut sortir cette carte et se réclamer de l'administration française auprès de l'autorité étrangère, ce qui est d'autant plus efficace que la loi française a des conséquences pénales - violer la loi française revient à s'exposer à une sanction pénale. Ce dispositif fonctionne très bien ; même les juridictions américaines sont de plus en plus nombreuses à reconnaître, dans des arrêts publics, la protection par la France de sa souveraineté. Nous avons été surpris : dans 95 % des cas, la « loi française » est tout à fait acceptée par les autorités étrangères. Autrement dit, le langage de la souveraineté ne choque pas du tout nos amis américains ou chinois.

J'en viens à un dernier outil : il s'agit d'un outil financier, le fonds French Tech Souveraineté (FTS), doté de 650 millions d'euros et géré par Bpifrance. Il permet à l'État de prendre des participations au capital d'entreprises technologiques qui, à défaut, risqueraient de partir sous capital étranger à l'occasion d'une levée de fonds. Grâce à la mobilisation de ce fonds public, nous attirons des investisseurs privés français ou européens et donnons à l'entreprise les moyens de contrer cette menace capitalistique. Cette approche interventionniste est assez méconnue du grand public ; nous la mettons en oeuvre selon une logique très colbertiste. Nous ne le faisons évidemment pas tous azimuts - le but n'est pas de racheter toute l'économie française, et le fonds serait bien sûr loin d'y suffire -, mais cet outil fait partie intégrante de notre panoplie d'intervention.

M. Dominique de Legge, président. - Vous avez dit que vous nous laissiez deviner quels étaient les deux pays les plus menaçants, mais vous venez de nous expliquer que les Chinois et les Américains comprenaient nos messages... J'en conclus que cette information n'est pas tout à fait confidentielle.

M. Rachid Temal, rapporteur. - Existe-t-il une doctrine française en matière de sécurité économique ?

M. Joffrey Célestin-Urbain. - Une circulaire classifiée a été prise en juillet 2019. Elle comprend un volet national, avec des éléments de doctrine et d'organisation interministérielle, et un volet territorial, car nous mobilisons beaucoup les préfets de région et de département, comme vecteurs des remontées d'informations de terrain et comme premier échelon de remédiation sur des menaces de sécurité économique identifiées.

Les préfets sont mobilisés depuis 2011 en matière d'intelligence économique territoriale, s'agissant d'une politique essentiellement défensive. Le SISSE a vingt délégués placés auprès des préfets de région.

M. Rachid Temal, rapporteur. - Pour quelle raison cette circulaire est-elle classifiée ?

M. Joffrey Célestin-Urbain. - Elle est classifiée parce qu'elle contient des éléments très sensibles, au-delà, d'ailleurs, du seul secteur de la défense nationale. En vertu d'une acception large du régime de classification relatif à la protection du secret de la défense nationale, nous y incluons les dossiers sensibles du point de vue de la sécurité économique, domaine qui comprend beaucoup d'éléments qui doivent être protégés.

Cette circulaire est accessible aux personnes habilitées secret défense et à celles qui ont besoin d'en connaître.

M. Dominique de Legge, président. - Les entreprises sont-elles informées qu'elles sont inscrites sur ces fameuses listes ?

M. Joffrey Célestin-Urbain. - Non, elles n'en sont pas informées. Certaines le devinent, celles qui font partie du coeur des entreprises stratégiques. Si nous ne les en informons pas, c'est pour une raison essentielle : contrairement aux opérateurs d'importance vitale (OIV), qui ont un régime juridique propre assorti d'obligations réglementaires relatives à la protection de leurs informations et à la sécurisation de leur chaîne de valeur, nos entreprises stratégiques pour la sécurité économique n'ont pas d'obligations qui seraient assorties à ce statut - autrement dit, il ne s'agit pas d'un véritable statut juridiquement contraignant. C'est pourquoi nous n'avons pas estimé utile de les en informer ; elles ne sont donc pas notifiées formellement.

Je citerai une autre motivation, de second ordre : certaines entreprises sont dans une relation contractuelle et commerciale avec l'État : le fait de leur dire qu'elles sont stratégiques pourrait leur donner un levier d'aléa moral qu'elles pourraient avoir envie d'exploiter, par exemple lorsqu'elles répondent à des appels d'offres.

Pour ces deux raisons, nous sommes restés dans un régime intermédiaire qui est sans doute perfectible, mais relativement souple : les entreprises ne savent pas qu'elles sont sur nos listes, elles sont surveillées par les services de l'Etat, mais aucune servitude ne s'attache pour elles à leur importance pour la sécurité économique. Il existe évidemment des recoupements entre ces listes et celle des opérateurs d'importance vitale : certaines entreprises stratégiques sont déjà couvertes par un autre régime du droit, mais toutes ne le sont pas.

M. Rachid Temal, rapporteur. - Qui détermine le nombre d'entreprises visées et le nombre d'entités figurant sur chaque liste ?

M. Joffrey Célestin-Urbain. - La constitution de la première liste, celle des entreprises stratégiques, a été amorcée par le SISSE, via un travail interministériel et sur la base de critères dont le détail est classifié - à des considérations très régaliennes s'ajoutent des considérations portant sur le potentiel d'innovation, et nous nous intéressons non seulement aux grands donneurs d'ordre, mais aussi à leurs sous-traitants critiques, car, en l'absence de substitution possible, la défaillance d'une entreprise de sous-traitance peut suffire à compromettre l'ensemble d'une chaîne de valeur.

Ces listes sont actualisées tous les ans et demi. Nous sollicitons à cet effet les différents ministères ainsi que les préfets, sur le terrain, qui peuvent nous faire des propositions. La gouvernance est centralisée et interministérielle.

Il n'y a pas de nombre d'entités prédéterminé. Les trois listes comprennent ce que nous considérons comme les piliers indispensables qu'il faut protéger en France : des entreprises, des technologies et des laboratoires. Pour ce qui est du nombre d'entreprises ainsi protégées, la maille actuelle nous permet de travailler correctement. En l'état actuel des listes, nous sommes dimensionnés pour surveiller correctement ce que nous avons à surveiller.

M. Rachid Temal, rapporteur. - Combien y a-t-il d'entités par liste ?

M. Joffrey Célestin-Urbain. - Cette information est classifiée.

M. Dominique de Legge, président. - Si nous avons accepté que cette audition se tienne à huis clos, c'est pour que vous puissiez nous dire des choses qui n'ont pas vocation à être portées à la connaissance du grand public. Si à chaque fois que l'on vous pose une question précise vous vous réfugiez derrière le secret défense, je crains que très rapidement notre réunion ne se termine.

J'avoue avoir du mal avec les concepts que vous maniez. Vous parlez d'« entreprises stratégiques » ; c'est très large. Vous parlez de « souveraineté », autre concept ; or je note que le ministre de l'agriculture est chargé aussi de la souveraineté alimentaire : la coopérative agricole de ma commune relève-t-elle de la liste des entreprises stratégiques pour la souveraineté ?

Il va falloir que vous compreniez que nous sommes là pour enquêter : nous avons besoin de réponses à nos questions.

M. Joffrey Célestin-Urbain. - J'ose espérer vous avoir apporté malgré tout un certain nombre de réponses qui permettent de clarifier l'essentiel.

M. Dominique de Legge, président. - Vous pouvez espérer, mais vos réponses ne sont pas à la hauteur de nos espérances.

M. Joffrey Célestin-Urbain. - J'en prends bonne note.

Je reviens sur les concepts. La notion d'« entreprises stratégiques » renvoie aux entreprises à protéger en priorité au titre de la politique de sécurité économique, laquelle nous a conduits à adopter des critères et à construire des listes. Typiquement, les entreprises financées par le programme France 2030 passent sous les fourches caudines de nos critères avant d'intégrer ou non nos listes.

Une entreprise qui peut être importante pour la souveraineté alimentaire, qui tombe dans le champ du ministère de l'agriculture et de la souveraineté alimentaire, a tout à fait vocation, si elle répond à ces critères relatifs à la sécurité économique, à être protégée au même titre que les grands donneurs d'ordre de filières industrielles telles que l'aéronautique, le spatial ou la défense. Notre conception de la souveraineté économique inclut la souveraineté technologique, la souveraineté alimentaire, la souveraineté industrielle, etc. : nous brassons relativement large.

Le calibrage de notre dispositif est essentiel : nous sommes aujourd'hui capables de suivre les acteurs inscrits sur nos listes ; l'approche ne serait pas du tout la même si ce nombre croissait substantiellement.

Nous gardons par ailleurs toujours en tête l'autre pôle de l'action publique : nous veillons en permanence à garantir l'équilibre entre les objectifs de souveraineté et les objectifs d'attractivité. Si du jour au lendemain l'on décidait de suivre au titre de la politique de sécurité économique 200 000 ou 400 000 entreprises françaises, on nous reprocherait d'étouffer l'économie de notre pays, car notre politique se traduit par des contraintes pesant sur les opérateurs concernés. La maille qui est la nôtre nous assure un bon équilibre, tant du point de vue opérationnel qu'eu égard à l'objectif d'attractivité incarné par Choose France.

M. Rachid Temal, rapporteur. - Existe-t-il un document législatif ou réglementaire au fondement de la définition des critères que vous utilisez ?

M. Joffrey Célestin-Urbain. - Il n'existe pas de régime législatif complet encadrant la politique de sécurité économique, et donc pas de document législatif à disposition.

Le décret du 20 mars 2019 relatif à la gouvernance de la politique de sécurité économique décrit les différentes missions du SISSE et du commissaire à l'information stratégique et à la sécurité économiques (Cisse), qui est également directeur général des entreprises, étant entendu que la dimension interministérielle est au coeur de nos missions.

Mais il n'existe ni loi surplombante ni dispositif analogue à ce qui existe pour les opérateurs d'importance vitale (OIV) : le cadre réglementaire reste assez étroit.

M. Rachid Temal, rapporteur. - Pensez-vous qu'il faille une loi sur la sécurité économique ? Existe-t-il des lois équivalentes dans des pays étrangers ?

M. Joffrey Célestin-Urbain. - Jusqu'à présent, nous nous sommes appuyés sur les corpus législatifs existants relatifs à d'autres régimes d'entreprises, comme les OIV ou les laboratoires de recherche, ces derniers étant couverts pour certains par le dispositif de protection du potentiel scientifique et technique de la Nation (PPST). J'ai cité également la loi de blocage, ainsi que le contrôle des investissements étrangers en France. La transposition de la directive du 14 décembre 2022 sur la résilience des entités critiques, dite REC, impose aussi des obligations. Des normes existent en outre pour la filière cyber.

Ces bouts de législation posent un cadre pour certaines des entités que nous suivons, mais nous ne disposons pas de régime ad hoc. Instaurer un régime ad hoc exigerait de changer de philosophie, et donc d'imposer de nouvelles obligations et charges de sécurité économique couvrant un champ beaucoup plus large, s'appliquant y compris à des start up et à des PME. Un tel choix de politique économique irait à l'encontre de l'objectif de simplification, car il reviendrait à imposer de nouvelles charges...

M. Rachid Temal, rapporteur. - ... notamment en matière de sécurité...

M. Joffrey Célestin-Urbain. - En matière de sécurité, un corpus applicable à toutes les entités serait sans doute utile dans l'absolu. Cependant, le dispositif changerait de nature : nous notifierions les entreprises, auxquelles s'appliquerait un régime juridique à part entière.

M. Rachid Temal, rapporteur. - Un tel régime existe-t-il dans d'autres pays ?

M. Joffrey Célestin-Urbain. - Pas à ma connaissance. Il existe des bouts de législation, mais non des listes d'entreprises assorties d'un corpus de droits et de devoirs.

M. Rachid Temal, rapporteur. - Un régime juridique ad hoc permettrait au Parlement de s'exprimer.

Combien de personnes travaillent au SISSE ? Combien effectuent la veille ?

M. Joffrey Célestin-Urbain. - Une petite soixantaine de personnes travaille au SISSE, dont une petite quarantaine à Paris et une vingtaine de délégués à l'information stratégique et à la sécurité économiques (Disse) placés auprès des préfets de région et au contact des antennes territoriales du renseignement, sur le terrain.

Ces effectifs ont peu évolué au cours des dernières années. Ils permettent surtout d'effectuer un travail de coordination efficace. Si nous voulions traiter nous-mêmes toutes les alertes de sécurité, que l'on évalue à 1 000 par an environ, cela serait plus compliqué. Afin de traiter les menaces, nous nous appuyons sur un réseau interministériel qui comprend des représentants de divers ministères, justice, agriculture, énergie ou encore transports. Le SISSE pilote la chaîne de traitement des alertes, mais c'est parfois aux différents ministères qu'il incombe d'apporter la réponse opérationnelle.

Les effectifs sont adaptés au système actuel, dans lequel il n'existe pas de régime juridique propre et où le SISSE pilote la réponse de l'État.

M. Rachid Temal, rapporteur. - Au quotidien, combien de personnes travaillent à la veille en matière d'ingérence économique ?

M. Joffrey Célestin-Urbain. - Six personnes se consacrent à la veille, y inclus la transformation numérique du service, qui permet d'automatiser une partie importante des opérations. Leur travail principal consiste à faire de l'analyse sur des acteurs étrangers à la suite de saisines émanant d'autres administrations ou d'entreprises, et à traiter toutes les informations disponibles en source ouverte.

Pour ce qui est des autres informations, nous dépendons d'autres administrations, comme les services de renseignement ou ceux d'autres ministères.

Nos veilleurs se consacrent donc à la veille en source ouverte et à son automatisation. Les autres équipes du SISSE jouent le rôle d'une plateforme de traitement de toutes les informations issues de la veille. Nous avons organisé toute la chaîne de valeur du SISSE pour transformer chaque information reçue en action, c'est-à-dire en stratégie visant à éliminer la menace.

M. Rachid Temal, rapporteur. - Quelles sont vos relations avec Tracfin, avec le ministère des armées, avec le secrétariat général de la défense et de la sécurité nationale (SGDSN) et avec le service de vigilance et de protection contre les ingérences numériques étrangères (Viginum) ?

M. Joffrey Célestin-Urbain. - La coordination est véritablement excellente au niveau interministériel, ce qui ne fut pas toujours le cas. Quand j'ai pris mes fonctions, en 2018, le travail était mené en silos : l'alimentation du SISSE par les services de renseignement était plutôt faible. Depuis, nous avons complètement changé de braquet. Tracfin fait partie de la communauté du renseignement, donc de nos informateurs potentiels ; la zone de recouvrement entre nos deux services n'est pas très étendue, mais les données que nous nous échangeons nous permettent d'étayer des dossiers sur lesquels nous avons des doutes et pour lesquels ne manquent que les informations relatives aux flux financiers.

Le ministère des armées est partie prenante de la politique de sécurité économique. Nos listes incluent une grande partie d'entreprises de la base industrielle et technologique de défense (BITD). Il existe environ 4 000 entreprises de défense, dont une partie est considérée comme stratégique pour la sécurité économique. Le ministère des armées intervient sur le contrôle des investissements étrangers en France, et fait partie de la boucle de décision en cas de rachat d'une entreprise de défense.

Le SISSE pilote l'ensemble du dispositif interministériel de sécurité économique ; il assure notamment le secrétariat du Comité de liaison en matière de sécurité économique (Colisé) - le Cisse, qui est également directeur général des entreprises, occupe les fonctions de secrétaire des réunions du Colisé, la présidence étant assurée par le SGDSN. Cette organisation est motivée par le caractère hybride de cette politique, qui relève de la sécurité nationale, mais aussi de la politique économique, pilotée depuis Bercy. Cette dyarchie fonctionne très bien au quotidien.

Quant au coordinateur national du renseignement et de la lutte contre le terrorisme (CNRLT), qui anime la communauté du renseignement, il est étroitement associé à notre politique.

Le travail que nous réalisons avec Viginum est relativement récent. Viginum travaille spécifiquement et avant tout sur les campagnes de déstabilisation informationnelle qui visent les intérêts de la Nation ; il peut aussi s'intéresser dans le cadre de son mandat aux campagnes qui ciblent des acteurs économiques.

M. Rachid Temal, rapporteur. - Vous dites avoir l'obligation d'éteindre la menace par tous moyens. La liste de moyens à disposition que vous avez citée est-elle exhaustive ? Disposez-vous d'autres outils non cités ?

M. Dominique de Legge, président. - Des moyens de type secret défense ?

M. Joffrey Célestin-Urbain. - Pas du tout.

M. Rachid Temal, rapporteur. - Vous avez cité les quatre options qui se présentent au ministre, d'un point de vue réglementaire, pour contrôler les investissements étrangers. Combien de décisions sont rendues chaque année ? Combien de refus sont prononcés ?

M. Joffrey Célestin-Urbain. - On dénombre environ chaque année 300 notifications, c'est-à-dire 300 demandes formulées par des investisseurs étrangers. Environ 170 demandes sont hors champ, et 130 font l'objet d'un contrôle, dont 50 % se traduisent par une autorisation assortie de conditions. Ce chiffre se situe entre 0 % et 5 % chez nos voisins européens - il est de 12 % en Espagne -, ce qui fait dire à Bruxelles que la France va très loin en matière de sécurité économique.

Quelques décisions de refus sont prononcées chaque année. Elles interviennent quand le profil de l'investisseur est très problématique, au regard d'une possible collusion avec la grande délinquance financière, ou quand il est impossible de protéger efficacement notre souveraineté par une simple autorisation assortie de conditions. Ces décisions sont soigneusement pesées.

M. Rachid Temal, rapporteur. - Si une entreprise ne respecte pas ses engagements, et par exemple s'accapare une technologie, quels sont les outils à disposition du ministère ?

M. Joffrey Célestin-Urbain. - Jusqu'à présent, les moyens étaient faibles, mais trois agents supplémentaires ont été recrutés en 2023, pour faire en sorte que, pour un stock donné, l'ensemble des lettres d'engagement soit contrôlé sur une base glissante tous les cinq ans.

Ce travail de contrôle est devenu systématique. Les agents vérifient si les entreprises répondent à leurs obligations, qu'elles soient formelles - désignation d'un point de contact avec l'administration, production d'un rapport annuel sur la vérification du respect de leurs engagements - ou de fond. Ainsi pouvons-nous détecter les manquements.

M. Rachid Temal, rapporteur. - En cas de manquement, de quelle manière faites-vous respecter les obligations ?

M. Joffrey Célestin-Urbain. - Une fois épuisées toutes les mises en demeure possibles, une palette de sanctions reste à la main du ministre de l'économie ; des amendes dont le montant est déterminé en fonction du chiffre d'affaires peuvent ainsi être prononcées. Ces sanctions ont été renforcées par la loi Pacte (loi du 22 mai 2019 relative à la croissance et la transformation des entreprises).

M. Rachid Temal, rapporteur. - Auriez-vous un exemple concret de sanction à nous donner ? Le ministre est-il déjà allé jusqu'au bout du processus de sanction ?

M. Joffrey Célestin-Urbain. - À ce jour, cela n'est pas encore arrivé. Néanmoins, étant donné la montée en puissance de notre dispositif, cela arrivera sans doute - je le répète, nous effectuons plus de 80 contrôles par an.

M. Rachid Temal, rapporteur. - À ce jour, aucune entreprise n'a été sanctionnée pour non-respect de ses engagements ?

M. Joffrey Célestin-Urbain. - Oui, à ma connaissance.

M. Rachid Temal, rapporteur. - Auriez-vous des préconisations à faire, en matière législative par exemple, pour améliorer la sécurité économique des entreprises ?

M. Joffrey Célestin-Urbain. - Nous pouvons nous interroger quant à la pertinence d'aller plus loin vers la création d'un dispositif de sécurité économique global, adossé à un cadre juridique propre.

Concernant le contrôle des investissements étrangers en France, il ne me semble pas nécessaire d'aller plus loin dans la loi. Les sanctions nécessaires et les procédures afférentes sont prévues ; l'enjeu porte davantage sur la mise en oeuvre pleine et entière des contrôles et l'exercice des pouvoirs qui nous sont dévolus.

Je ne vois pas d'angle mort majeur, et la voie réglementaire permet de pallier les manques. Je rappelle que nous avons récemment enrichi la liste des technologies critiques pour y ajouter des activités de recherche et développement et complété le décret pour y ajouter les activités de production et de transformation de matières premières critiques.

Nous avions envisagé, en 2021-2022, de modifier la loi de blocage, afin de renforcer les sanctions contre les entreprises françaises contrevenantes. Le choix avait été fait de proposer plutôt une stratégie d'accompagnement des entreprises. Aussi n'avions-nous pas modifié le quantum des sanctions applicables. Les entreprises déplorent souvent de se trouver entre le marteau et l'enclume : coopérer avec une autorité étrangère fait courir le risque d'une sanction française, quand l'absence de coopération fait courir le risque d'une sanction de la part d'un État étranger. Il fallait éviter une impasse ; nous n'avons donc pas modifié la loi. Aujourd'hui, l'équilibre semble satisfaisant : il ne semble décidément pas utile de modifier la loi de 1968 dans l'immédiat.

M. Rachid Temal, rapporteur. - Auriez-vous des propositions à nous faire pour ce qui relève du domaine réglementaire, ainsi que de la dimension européenne ?

M. Joffrey Célestin-Urbain. - Il serait intéressant, au niveau européen, de disposer d'un décalque de la loi de 1968. Le règlement de blocage européen interdit à des entreprises européennes de se conformer à des sanctions commerciales extraterritoriales, mais il ne constitue pas un règlement de protection des données sensibles européennes. Une harmonisation européenne, à partir de l'expérience française, serait souhaitable, de même que pour le contrôle des investissements étrangers stratégiques.

Au-delà du paquet visant à renforcer la sécurité économique de l'Union européenne, lancé en janvier, Bruxelles se pose la même question. La Commission européenne souhaiterait exploiter toutes les potentialités des traités européens et développer une politique de sécurité européenne qui aille au-delà de la dimension intergouvernementale. L'union européenne est susceptible, dans les prochaines années, de prendre une part croissante dans les décisions des États membres en matière de sécurité économique, même si de nombreux États ne sont pas encore prêts à mutualiser.

Mme Nathalie Goulet. - En ce qui concerne l'extraterritorialité de la loi américaine, serait-il opportun d'organiser la défense de nos entreprises européennes sur le modèle de celle des entreprises américaines ? Aux États-Unis, tous marchent ensemble - système bancaire, système fiscal et législateur. Il existe une forme de « pack » qui aide les entreprises américaines non seulement à se défendre, mais aussi à être des prédateurs d'entreprises à l'étranger. Le modèle américain me semble donc très efficace. Le règlement de blocage européen, pris à la suite de l'embargo imposé à l'Iran, n'a empêché ni la BNP ni la SNCF de payer des amendes extravagantes aux États-Unis pour pouvoir continuer à y obtenir des marchés.

Au sujet du contrôle des investissements étrangers, que font vos services quand l'émir du Qatar arrive et met 30 milliards de dollars sur la table ?

Mme Sylvie Robert. - Avez-vous un droit de regard et de contrôle sur les appels d'offres liés à des investissements exceptionnels ? Je pense aux jeux Olympiques et Paralympiques et à des domaines sensibles comme la sécurité et l'environnement. Si l'encadrement est précis au moment des investissements, il arrive que des entreprises restent en France au-delà de leur présence ponctuelle liée à l'événement.

M. Joffrey Célestin-Urbain. - Les Américains bénéficient d'une doctrine totalement intégrée de sécurité économique, faite d'aspects défensifs et offensifs.

L'emprise économique et technologique américaine est telle que les Américains peuvent naturellement dérouler une politique d'expansion normative, car le droit s'appuie sur la sphère économique gigantesque qui est celle des États-Unis. Ainsi peuvent-ils « rattraper » dans le champ de leurs juridictions des entreprises européennes qui se financent en dollar, qui emploient des citoyens américains dans leur chaîne de décision ou utilisent des serveurs aux États-Unis. Nous payons d'une certaine manière la moindre emprise économique européenne.

Le principal levier stratégique européen en matière de guerre économique est l'accès au marché européen, qui est le plus grand marché au monde et le plus intégré.

Pour le moment, nous intervenons au cas par cas, pour corriger des situations de commerce déloyal flagrantes - je pense par exemple aux véhicules électriques chinois.

Peut-être le jour viendra-t-il où l'Europe dira d'une seule voix que son poids dans le concert des puissances est déterminé par l'accès au marché européen, et où elle se montrera prête à verrouiller ce marché pour des raisons stratégiques. Cela dit, un tel alignement européen n'est pas à l'ordre du jour.

Mme Nathalie Goulet. - Les élections européennes arrivent !

M. Joffrey Célestin-Urbain. - Espérons qu'un tel sujet vienne alimenter le débat politique.

En matière d'investisseurs étrangers, notre approche consiste trivialement à distinguer autant que possible le « bon » du « mauvais » chasseur : nous étudions l'investisseur pour évaluer son profil de risques et mesurer s'il est problématique. Nous nous demandons s'il a déjà investi en France et comment se sont passés les investissements : se sont-ils matérialisés ? Ont-ils créé des emplois ? Cet acteur a-t-il siphonné les technologies françaises en construisant des usines miroirs dans son pays d'origine ? Investit-il principalement dans des entreprises stratégiques françaises ? Travaille-t-il pour un gouvernement étranger ? Cette dernière information est parfois facile à établir, comme pour la Chine, parfois plus difficile. À partir de ce faisceau d'indices, nous déterminons si les fonds sont bienvenus ou non, et dans quel domaine.

Les fonds des pays du Golfe sont largement attirés en France, dans de nombreux secteurs, qui ne sont pas tous stratégiques. Nous ne pouvons pas nous passer des fonds étrangers : l'ampleur des besoins de financement de la tech française et de la tech européenne est telle, par rapport aux capacités de financement endogènes de l'Europe, que l'on ne peut pas faire autrement, à moins de renoncer à développer des licornes et des scale-up françaises. Le plan France 2030 et le rapport de Philippe Tibi sur le financement des entreprises technologiques françaises vont dans le sens d'un renforcement du financement français et européen, mais nous ne pourrons nous passer du jour au lendemain des investisseurs étrangers.

Concernant les appels d'offres, nous sommes confrontés à la difficulté suivante : les autorités adjudicatrices publiques, dans le champ des marchés de défense et de sécurité, peuvent intégrer des clauses de protection de la sécurité nationale. En matière de sécurité économique, en revanche, comme nous ne disposons pas de corpus juridique à part entière, nous passons par le code des marchés publics, qui est corseté : les règles sont fondées sur le prix et sur la qualité du produit ainsi que sur des clauses environnementales, qui prennent une place de plus en plus importante. Hors marchés de défense et de sécurité, il n'est pas facile d'imposer des clauses de sécurité économique.

Le problème n'est réglé que grâce à un réflexe qu'ont les entreprises publiques et les administrations qui gèrent ces marchés sensibles : elles nous consultent en amont de la rédaction des marchés. Ces interventions restent néanmoins très ponctuelles, et souvent liées à des contentieux.

Mme Martine Berthet. - Quels sont le volume et le rythme d'utilisation du fonds de 650 millions d'euros qui est à votre disposition pour prendre des participations dans des entreprises stratégiques ? Comment ces fonds transitent-ils dans le budget de l'État ? Passent-ils par le compte d'affectation spéciale « Participations financières de l'État » ?

M. Éric Bocquet. - Vous disiez que les entreprises n'ont pas l'obligation de vous rencontrer. Des cas problématiques vous échappent-ils ? Êtes-vous déjà passés à côté de menaces importantes pour notre économie ?

J'en viens au couple attractivité-souveraineté. Comment déterminez-vous si une opération capitalistique peut constituer, pour une entreprise donnée, en France, une menace ou un danger ? Quel est le point de bascule ?

M. Joffrey Célestin-Urbain. - Le fonds FTS, instauré comme mesure de sortie de la crise du covid, était doté de 650 millions d'euros ; il est alimenté par les fonds du programme d'investissements d'avenir (PIA). Il ne relève pas du compte d'affectation spéciale « Participations financières de l'État » : les fonds ne transitent pas par l'Agence des participations de l'État.

Nous avons pratiquement consommé l'enveloppe ; un nouvel abondement est en cours. Cette bonne consommation des fonds traduit une forme d'appétit pour le risque, comparé aux autres fonds de l'État et aux fonds privés : ce fonds est donc utile. La diversité des tickets de financement est très forte, de toutes petites entreprises jusqu'à des levées de fonds plus importantes. Une quinzaine d'opérations ont été réalisées grâce à ces 650 millions d'euros.

Grâce à la diversité des sources dont nous disposons (services de renseignement, entreprises, délégués en région, veille en sources ouvertes), notre capacité à détecter les menaces a énormément progressé et nous ne sommes plus pris au dépourvu.

Nous traitons ces menaces au cas par cas, en utilisant notre faisceau de critères. Si l'entreprise est incluse dans l'une de nos listes, nous nous intéressons au problème. Si elle ne l'est pas, soit nous laissons la main à d'autres services de l'État le cas échéant, soit nous l'intégrons à nos listes à l'occasion de l'actualisation suivante, ce qui permet de corriger des lacunes.

Une menace est caractérisée si par exemple un acteur étranger potentiellement problématique souhaite investir dans une entreprise française protégée.

Mme Gisèle Jourda. - La délégation parlementaire au renseignement a envisagé d'élargir le périmètre d'action du SISSE et de doter vos services de moyens humains supplémentaires. Comment envisagez-vous un tel élargissement ?

Comment les entreprises identifient-elles les délégués à l'information stratégique et à la sécurité économiques, les Disse ?

M. Akli Mellouli. - Pourriez-vous nous donner des exemples concrets d'atténuation d'une menace significative ?

Quelles sont les menaces émergentes en matière de sécurité économique ?

Comment le SISSE évalue-t-il l'impact de ses interventions, du point de vue notamment de la protection des intérêts économiques de la France ? Avez-vous mis en place des indicateurs ?

M. Joffrey Célestin-Urbain. - Nous sommes favorables à l'élargissement du périmètre d'action du SISSE, afin de lui permettre notamment d'agir davantage en matière d'intelligence économique. M. Geoffroy Roux de Bézieux a précisément été missionné par le Président de la République sur la question de savoir comment développer un lien plus fort entre l'administration française et les entreprises françaises stratégiques : il s'agit non seulement que les entreprises fassent remonter des alertes, mais aussi que l'État partage des informations stratégiques aux entreprises. La sécurité économique est une préoccupation bien identifiée par les PDG du CAC 40, du SBF 120 et de la French Tech. En la matière, nous avons besoin d'une interface plus solide autour du SISSE. Développer une logique d'accompagnement des entreprises serait consommateur de ressources humaines. Nous souhaiterions proposer un accompagnement multiservices, sur des sujets très variés : que faire en cas de prédation ? comment préparer une levée de fonds compatible avec nos exigences de souveraineté ? comment protéger des données sensibles ? Le SISSE possède une expertise utile et une expérience solide, sur une large gamme de problématiques, qui justifierait l'extension de ses ressources.

Concernant l'identification des Disse par les entreprises, nous nous sommes, faute de ressources adaptées à un changement d'échelle, arrêtés à mi-chemin. Avec seulement vingt délégués en région, il est impossible de sillonner le terrain. Nous avons réalisé des fiches de sécurité économique pédagogiques, qui sont publiques, et qui renvoient à des boîtes mail fonctionnelles régionales qui permettent aux entreprises de saisir les DISSE.

La voie principale d'évolution de notre dispositif législatif consisterait à décider, au-delà de la protection des entreprises stratégiques, de faire monter en maturité, en matière de protection, l'ensemble des entreprises françaises. Si toutes les PME se protègent mieux, c'est toute la sécurité économique de la France qui s'en trouvera fortifiée. À effectifs constants, nous ne pouvons envisager de déployer pareil projet : s'il en était ainsi décidé, il faudrait changer de braquet.

J'en viens aux cas pratiques de résolution des menaces, qui témoignent du panel d'outils qui est à notre disposition, qu'il s'agisse de l'outil financier ou de l'outil de contrôle des investissements étrangers.

Une PME française du secteur des semi-conducteurs, qui a des clients sensibles du point de vue de la souveraineté, était sur le point de se faire racheter par un fonds chinois, lequel avait déposé une demande au ministère via le dispositif de contrôle des IEF. Nous avons évalué la situation et estimé que cet investisseur était potentiellement dangereux. L'entreprise était trop stratégique pour proposer une autorisation sous conditions ; nous avons donc fait le choix de refuser l'opération, et l'investisseur a retiré son dossier.

Cela étant, nous ne pouvions en rester là, car nous ne voulons pas que notre action ait pour effet de retirer des capacités de financement à des entreprises françaises. Cette entreprise cherchait par ailleurs à se positionner sur le marché asiatique. Aussi avons-nous engagé une intervention financière proactive de l'État, afin d'encourager les investisseurs privés français à soutenir cette entreprise encore quelques mois. In fine, l'entreprise a réussi à trouver des financements en Europe, grâce au fonds FTS. Notre mode d'intervention est donc hybride ; il se fonde sur le contrôle et sur l'accompagnement.

Je citerai un autre exemple, qui a trait à la protection des données sensibles aux États-Unis. Le juge étranger demandait des informations sensibles à une entreprise française, dans le cadre d'une procédure dite de discovery. Nous avons dit au juge américain qu'une telle demande directe à l'entreprise française n'était pas possible, car une telle transmission d'informations serait contraire à la loi. Le juge américain, après plusieurs mois de négociations, a finalement reconnu la souveraineté de la France et accepté de passer par le bon canal, à savoir une commission rogatoire internationale.

Dans d'autres cas, nous avons purement et simplement interdit la transmission de l'information demandée par l'entreprise française.

Mme Nathalie Goulet. - Comment l'entreprise réagit-elle quand les investisseurs ne conviennent pas ? D'un point de vue commercial, vos décisions peuvent avoir des conséquences sur sa réputation.

M. Dominique de Legge, président. - Les critères semblent s'appliquer à la tête du client... Devrions-nous avoir un débat en vue de mieux définir ces critères, notamment si nous voulons que l'ensemble des entreprises soient sensibilisées à ces questions ? Le Parlement s'intéresse particulièrement aux questions de souveraineté ; ces critères ne devraient-ils pas être plus transparents et officiels ?

M. Joffrey Célestin-Urbain. - Il arrive que les entreprises réagissent mal. Certains investissements étrangers sont de bonnes affaires, car certains fonds étrangers offrent des valorisations plus élevées. Dans nombre de situations, les investisseurs français ne peuvent proposer des valorisations équivalentes. Et il arrive souvent qu'il n'y ait aucun investisseur français, financier ou industriel. Dans les situations plus favorables, un investisseur français existe, mais il propose des investissements moins importants. C'est que dans certains cas l'investisseur étranger incorpore dans la somme qu'il consent à payer une forme de prime de valorisation du caractère stratégique de l'entreprise. Ainsi le SISSE n'est-il pas toujours très populaire auprès de certaines entreprises ; cela nous oblige à trouver des solutions alternatives à valorisation équivalente, ce qui n'est pas évident. La pilule est parfois difficile à avaler pour certains dirigeants de la French Tech, qui veulent récupérer leur mise, laquelle peut se trouver décuplée par l'investissement étranger.

La menace émergente principale est liée au financement. Notre système nous donne les moyens de contrer des offensives capitalistiques étrangères, mais il nous faut aussi disposer de capacités de financement suffisantes pour garder l'innovation française sous pavillon français. Tant que le différentiel de capacité de financement sera aussi considérable entre les États-Unis et l'Europe, la menace restera importante - voyez l'exemple des rachats de biotech.

La deuxième menace est technologique. La souveraineté économique de demain se joue aujourd'hui, en matière d'intelligence artificielle, d'informatique quantique, de semi-conducteurs. La rivalité technologique sino-américaine nous impose de redoubler d'efforts pour protéger les chercheurs et les laboratoires ; cette lutte pour l'hégémonie entre Chine et États-Unis est un facteur de menace pérenne.

La troisième menace est liée à l'extraterritorialité. Nos entreprises sont prises dans un étau, entre les Américains, qui les considèrent parfois comme des entreprises américaines et leur demandent de renoncer au marché chinois, et les Chinois, qui représentent un marché incontournable et une part importante de leurs fournisseurs. Ces entreprises doivent de plus en plus choisir entre les États-Unis et la Chine, les enjeux réglementaires étant de surcroît très complexes.

Voilà pour les menaces structurelles.

Nous disposons d'indicateurs de performance internes au SISSE, qui ont trait au taux de menaces éliminées. Nous visons un objectif de 100%.

Les critères sont applicables à tous, mais, sur le fondement de ces critères, nous réalisons une analyse au cas par cas. Nous ne pouvons faire autrement, car les acteurs étrangers sont tous très différents les uns des autres.

Faut-il un débat sur ces critères ? Sur les critères eux-mêmes, je ne suis pas sûr qu'il y ait matière à débattre ; reste qu'il serait bienvenu qu'un dialogue beaucoup plus approfondi se noue entre l'exécutif et le Parlement sur ce sujet de la sécurité économique.

Audition de MM. Thomas Huchon, journaliste réalisateur spécialiste de la lutte contre la désinformation et les réseaux sociaux, et Gérald Holubowicz, journaliste expert en IA générative, sur l'intelligence artificielle et les manipulations de l'information

M. Dominique de Legge, président. - Merci d'avoir accepté de nous consacrer un peu de votre temps. Cette audition répond à l'une des préoccupations de mon excellent collègue Rachid Temal, rapporteur de cette commission d'enquête, d'inclure dans nos travaux un volet prospectif sur les menaces actuelles, mais aussi sur celles auxquelles il faudra faire face dans un horizon plus lointain. Nous avons toutefois bien compris que l'intelligence artificielle faisait déjà partie de notre quotidien numérique. La question est de savoir si les pouvoirs publics en ont bien pris la mesure.

Monsieur Huchon, vous avez développé un concept d'intelligence artificielle générative pour lutter contre les « infox » en créant des vidéos de « désinfox ». Il s'agit en quelque sorte d'utiliser cette technologie pour la bonne cause. Vous avez des exemples très concrets à nous présenter et je vous en remercie.

Monsieur Holubowicz, vous êtes pour votre part un expert reconnu dans le domaine de l'utilisation des intelligences artificielles, dans les influences qui peuvent peser sur les manipulations de l'information et les processus électoraux. Il sera intéressant de voir comment du point de vue d'un professionnel des médias, les influences malveillantes peuvent être détectées et combattues.

Avant de vous donner la parole, il me revient de vous rappeler qu'un faux témoignage devant notre commission d'enquête est passible des peines prévues aux articles 434-13, 434-14 et 434-15 du Code pénal. Je précise également qu'il vous appartient le cas échéant d'indiquer vos éventuels liens ou conflits d'intérêts en relation avec l'objet de notre commission d'enquête. Je vous invite à prêter serment de dire toute la vérité, rien que la vérité en levant la main droite et en disant « je le jure ».

Conformément à la procédure applicable aux commissions d'enquête, MM. Thomas Huchon et Gérard Holubowicz prêtent serment.

M. Dominique de Legge, président. - Merci. Cette commission fait l'objet d'une captation vidéo diffusée sur le site internet et, le cas échéant, les réseaux sociaux du Sénat, puis consultable en vidéo à la demande. Elle fera l'objet d'un compte-rendu publié. Je vous propose de prendre la parole dans l'ordre que vous souhaitez pour une dizaine de minutes chacun et, ensuite, le rapporteur et mes collègues pourront vous questionner.

Thomas Huchon. - Bonjour à tous, merci pour l'opportunité qui m'est faite aujourd'hui de m'exprimer devant votre commission.

En un temps record, l'espace informationnel, ce qui nous permet d'accéder à la réalité, de nous forger des opinions, mais aussi de nous socialiser et de créer des relations entre les citoyens, a profondément changé. Le monde dans lequel nous vivons est resté similaire en de nombreux aspects à ce qu'il était auparavant et en même temps, quelque chose a très profondément changé. Ce quelque chose, vous en avez tous un exemple devant vous, ce sont ces outils numériques que nous utilisons pour accéder à la réalité. Dans cet immense bouleversement auquel nous avons assisté depuis une quinzaine d'années, de nombreux éléments sont visibles, tandis que de nombreux autres éléments ne le sont pas. Je profite d'être présent dans un si bel endroit pour citer un bel auteur comme Saint-Exupéry : « l'essentiel est invisible pour les yeux ». Or, ce qui est devenu invisible à nos yeux aujourd'hui est devenu l'essentiel de ce qu'il se passe derrière nos écrans.

Derrière ces écrans, qui constituent nos moyens d'accéder à la réalité, qu'elle soit politique ou non, il se passe tout un tas de choses. Avant même de parler des perturbations que génère l'intelligence artificielle générative de contenus dans l'univers informationnel et plus largement, dans nos démocraties, il est important de comprendre que ce qui nous pose un problème fondamental n'est pas tant cette nouvelle technologie, mais plutôt le fait que nous n'ayons pas régulé l'espace informationnel. L'intelligence artificielle est un outil qui ne va pas disparaître. Nous sommes à l'époque de l'intelligence artificielle, qu'on le veuille ou non. Ce qui nous pose problème, en tant que société, en tant que démocratie, ce n'est pas tant la possibilité de faire dire n'importe quoi à n'importe qui, mais plutôt le fait qu'il soit possible de diffuser n'importe quoi. J'ai l'impression que cette nouvelle parole très critique face à l'intelligence artificielle, qui est légitime à tous points de vue, semble oublier une partie du problème. J'ai participé il y a quelques semaines au grand procès de l'intelligence artificielle organisé par le Quai des savoirs, structure d'Universcience, et mon témoignage portait sur le fait qu'il manquait quelqu'un sur le banc des accusés. Accuser l'intelligence artificielle générative de contenus de tous les maux de la désinformation, des fake news, de la circulation de tous ces mensonges aujourd'hui, revient à oublier une part très importante du problème. Notre manière d'accéder à la réalité a changé et dans ce changement, l'intelligence artificielle devient un facteur supplémentaire de ces dérèglements, mais pas nécessairement un facteur essentiel. Le facteur essentiel a trait au fait que nous avons créé des univers dans lesquels, sous couvert de nous laisser une liberté d'expression totale ou presque, nous avons en réalité créé les conditions d'une dictature plutôt que d'une démocratie. Un univers dans lequel on peut accuser n'importe qui de n'importe quoi sans jamais être obligé de fournir la preuve de ses accusations n'est pas un idéal démocratique. Or, les réseaux sociaux auxquels nous sommes confrontés à la fois en tant qu'utilisateurs et en tant que victimes des discours qui y sont propagés ont créé la possibilité d'accuser sans preuve. Ils continueront à permettre cela tant que nous n'aurons pas changé notre rapport de force par rapport à eux. Il me paraît essentiel de rappeler l'urgence démocratique à agir sur un phénomène qui perturbe nos processus électoraux, informationnels et démocratiques depuis quinze ans, lesquels, sous les coups de boutoir désormais nouveaux de l'intelligence artificielle, menacent plus que jamais de s'effondrer. Peut-être l'intelligence artificielle donnera-t-elle le dernier coup de boutoir qui mettra à bas nos ambitions démocratiques, mais il est certain qu'elle ne l'aura ni façonné ni construit.

Afin d'illustrer ce propos, je vous propose un contenu vidéo. Ce que vous allez voir a été réalisé en moins de quinze minutes, sans débourser un seul euro. Il n'existe aucune ambition malveillante dans mon projet, mais cela doit aussi vous faire comprendre que les intentions malveillantes peuvent trouver de nouveaux écrins.

Diffusion d'une courte vidéo.

Pour faire dire à Monsieur de Legge ces mots qu'il n'a jamais prononcés, il nous a suffi de récupérer un extrait de deux minutes environ d'un discours et de le « donner à manger » à une intelligence artificielle pour pouvoir lui faire dire absolument tout ce que l'on veut, avec plus ou moins de réussite technique - le français est une langue un peu compliquée parfois pour les intelligences artificielles qui ont tendance à préférer la phonétique à la sémantique. Il est désormais possible, avec des outils numériques extrêmement faciles d'accès, de faire dire à peu près n'importe quoi à n'importe qui.

Cette première vidéo est une sorte de tentative de réponse au sujet des influences étrangères. L'une des problématiques auxquelles nous sommes confrontés dans le cadre de ces opérations d'influence étrangère, de diffusion de fake news dans l'espace informationnel, est double. Il existe d'une part un enjeu de production, car fabriquer de l'information coûte très cher et il faut donc des moyens pour le faire. Il faut d'autre part tenir compte du temps. En effet, entre la publication d'une fake news sur un réseau social et la publication d'un contre-discours, il peut s'écouler plusieurs jours, le temps de repérer la fake news, la déconstruire, écrire une chronique, tourner une vidéo et réaliser le montage de cette vidéo de contre-discours qui ne viendra certainement pas convaincre tous ceux qui ont adhéré à la fake news diffusée initialement, mais qui viendra au moins émettre un deuxième son de cloche pour tous ceux qui se posent des questions et qui pourraient basculer d'un côté ou de l'autre. Il est certain que si nous ne fournissons pas de contre-discours, les gens basculeront fatalement du côté des fake news. L'idée consiste donc à réduire le temps de production, et donc le coût de production, et à être en capacité de produire très rapidement en utilisant HeyGen, un logiciel de fabrication de deep fake. À force d'utiliser ces outils et de comprendre leur fonctionnement, des journalistes comme moi ou comme d'autres sont de plus en plus capables de détecter de potentiels abus. J'ai été l'un des premiers journalistes à s'intéresser à l'affaire Cambridge Analytica avec la manipulation du Brexit et des élections américaines au travers de données récupérées par les réseaux sociaux ayant servi à créer des profils psychologiques des électeurs afin de les cibler avec des fake news correspondant à leurs peurs parfois inconscientes. Or, si nous savions en 2016 que Cambridge Analytica existait et était capable de faire cela, l'impact de ses techniques de manipulation aurait été moindre et nous aurions pu mieux nous protéger. Après avoir, comme les journalistes professionnels, les grands médias, mais aussi les grands partis politiques, les grandes institutions de notre pays, raté le virage de l'internet des blogs, puis celui des sites internet, puis celui des réseaux sociaux, puis celui des plateformes de vidéos en continu, ce serait prendre un risque supplémentaire important que de rater encore une fois en 2024 ce virage technologique. Il s'agit de se servir de ces technologies pour en faire, peut-être pas un outil bénéfique, mais au moins un outil d'aide à la production, et essayer de comprendre comment il fonctionne afin de permettre au grand public de s'en prémunir.

M. Gérald Holubowicz. - Merci. C'est un honneur de venir témoigner ici au Sénat. J'ai créé une newsletter qui couvre l'évolution de ces médias synthétiques que l'on manipule à l'aide de l'intelligence artificielle et de leurs effets dans l'espace public numérique et la sphère informationnelle. Je travaille sur ce phénomène depuis 2017. Déjà en 2018, nous alertions sur les risques des deep fake, notamment sur les personnes vulnérables, la sécurité, les institutions, la sécurité des entreprises, les risques sociétaux et culturels ainsi que les défis liés à la désinformation. Ce défi avait d'ailleurs été mis en lumière par Jordan Peele, réalisateur américain qui avait réalisé une forme de caricature avec Barack Obama en utilisant le deep fake de ce dernier pour insulter Donald Trump. Il s'agissait déjà d'une forme d'alerte et de mise en perspective pour alerter les pouvoirs publics et les autorités sur la question des deep fake qui venaient à peine de décoller.

Diffusion d'un court extrait audio d'un deep fake.

Je vous enverrai la vidéo que j'ai réalisée en quelques minutes à l'aide de versions payantes des logiciels Eleven Labs et HeyGen. L'abonnement à Eleven Labs se monte à 11 euros par mois, tandis que celui de HeyGen est de 59 euros par mois. Aucune vérification d'identité ne m'a été demandée par la plateforme au moment où j'ai réalisé le clonage de la voix de Monsieur Temal. Sur la partie vidéo en revanche, il a fallu donner un consentement qui n'est pas passé, mais il existe des méthodes détournées pour pouvoir obtenir ce consentement et donc faire passer la vidéo. En synthèse, à l'aide de quelques outils gratuits, j'ai pu récupérer votre voix, l'isoler à travers un autre logiciel d'intelligence artificielle qui a pu séparer le bruit qui entourait votre voix afin de la télécharger sur la plateforme Eleven Labs et la cloner. Tout cela a pris dix minutes.

Le volume de productions synthétiques réalisées n'a pas cessé d'augmenter depuis 2017 pour atteindre aujourd'hui des niveaux préoccupants. La possibilité de réaliser à l'aide d'un logiciel très bon marché, en très peu de temps, des contenus vidéo, des images, des documents audio synthétiques hyper réalistes et personnalisés représente aujourd'hui un changement de paradigme assez marquant qu'il faut absolument adresser.

Dans un premier temps, les créateurs de deep fake ont ciblé en particulier les populations vulnérables. Une société anglaise, Deep Trace, qui a changé de nom depuis, avait calculé en 2019 que 96 % des vidéos synthétiques (deep fake) alors produites étaient des contenus à caractère sexuel non consentis qui ciblaient des femmes connues ou inconnues. La journaliste indienne Rania Ayoub a notamment été victime d'un deep fake pornographique à la suite d'articles rédigés contre le parti de l'actuel Premier ministre. Elle avait incarné à cette époque malgré elle la dérive de ces vidéos fabriquées dans l'unique but de nuire à sa réputation, à l'humilier et à décrédibiliser son travail. Selon le directeur de l'organisation Witness.org, basée aux États-Unis, de nombreuses journalistes ont été victimes de ces contenus pornographiques pour décrédibiliser leur travail. Ces personnes ont préféré garder le silence et tenter de régler le problème dans l'anonymat pour éviter que le chantage se déploie plus largement.

Depuis l'avènement des logiciels de génération d'images, les observateurs constatent également l'augmentation d'autres images à caractère inquiétant, notamment des images pédopornographiques synthétiques qui sont distribuées à travers les réseaux. Un rapport de la Stanford Digital Repository a montré que les contenus de ce type étaient très nombreux, y compris des contenus à caractère terroriste (décapitations par exemple). Cela a évidemment proliféré depuis avec, sur le volet économique, des arnaques à la voix synthétique qui peuvent toucher des entreprises en simulant la voix d'un chef d'entreprise, mais également le gouvernement, des institutions, des hommes politiques, etc.

En termes de contexte, nous avons parlé de Jordan Peele en 2018, mais l'utilisation des médias synthétiques ne se fait pas uniquement de façon illégale. Au printemps 2022, le candidat à l'élection présidentielle sud-coréenne Yoon Suk-Yeol a utilisé l'intelligence artificielle pour se dédoubler. Il a créé un « AI Yoon » pour converser avec son électorat. Alors que Yoon Suk-Yeol était plutôt conservateur et mal reçu chez les jeunes, cette intelligence artificielle de conversation pouvait échanger avec les gens, interagissait avec eux et était plus sympathique que sa version réelle. Cela a gagné le coeur des moins de 30 ans et après une campagne serrée, le véritable Yoon Suk-Yeol a remporté l'élection présidentielle en Corée du Sud. En mars 2022, une tentative de déstabilisation du régime ukrainien a eu lieu quelques jours après l'invasion par les troupes russes. Le président Volodymyr Zelensky est ainsi apparu sur les réseaux (WhatsApp, etc.) sous la forme d'un deep fake pour appeler les troupes à déposer les armes, mais cela a heureusement très vite été désamorcé. Aux États-Unis fin avril, lorsque Joe Biden a annoncé sa nouvelle candidature à la présidence des États-Unis, le Republican National Committee (RNC) a publié de manière très officielle un clip de campagne entièrement illustré à l'aide d'images d'intelligence artificielle et montrant une Amérique du futur complètement dévastée. En Argentine à l'automne dernier, les deux candidats se sont battus à armes égales en utilisant des intelligences artificielles génératives. En novembre 2023, lors de la course à la présidence slovaque, les deux candidats étaient à couteaux tirés avec une avance en faveur de Michal Simecka, président du parti Slovaquie progressiste. À la veille du moratoire avant le scrutin, un deep fake audio a été publié, faisant dire à ce candidat qu'il était en train d'acheter des voix pour gagner les élections. Le jour de l'élection, Michal Simecka a perdu trois points, laissant passer son opposant de droite aux élections. Aux États-Unis, que ce soit à New York à Harlem ou dans le New Hampshire, un « robot call » de Joe Biden appelait les électeurs à ne pas voter aux primaires. Plus récemment, des supporters de Donald Trump ont utilisé l'intelligence artificielle pour recruter parmi la population noire de nouveaux supporters. L'intelligence artificielle et les médias synthétiques dans la sphère informationnelle sont donc à la fois utilisés par des partis officiels, par des candidats et par des acteurs malveillants et parviennent à influencer les opinions. Une étude suisse publiée début mars 2024 montre notamment que lorsque l'intelligence artificielle est bien utilisée, elle influence les populations de façon même plus importante que ne le ferait un être humain. Il s'agit donc d'une arme à double tranchant.

Cependant, la désinformation constitue un mal qui surgit lorsque l'information est défaillante. Dans un rapport mis à jour hier, l'organisation américaine NewsGard a publié le résultat d'une étude qui a identifié près de 800 sites entièrement générés par l'intelligence artificielle. Il s'agit de sites « d'information » véhiculant de fausses informations traduites dans près de 16 langues allant de l'arabe au français en passant par l'indonésien ou le turc. Ces sites sont un mélange entre la captation des contenus qui existent déjà et la fabrication de nouveaux contenus qui cherchent à désinformer. Le volume de publication de ces sites est important, de l'ordre de 1 000 articles par jour, soit bien plus que ce que pourrait produire une rédaction, ce qui est inquiétant. Cela ne serait pas un problème si cela ne concernait que quelques sites isolés que personne ne consulte. Cependant, le 18 janvier 2024, le site d'information technologique 404 Média rapportait que Google News référençait de nombreux sites de ce type. Ce phénomène, associé à une dépression du trafic attendue par l'industrie au cours de l'année 2024 du fait de différents facteurs comme la démonétisation des sites d'information sur les plateformes de médias sociaux ou l'arrivée prochaine du search generative experience (recherche d'information à travers une intelligence artificielle générative), met la presse et les médias dans une situation compliquée. Nous allons assister à une forme d'étranglement de la presse et des médias qui vont devoir exister dans un océan de contenus fabriqués pour désinformer. Il s'agit d'un problème d'équilibre économique et de capacité à pouvoir soutenir le travail des journalistes, avec l'intelligence artificielle qui d'un côté empêche les journaux et les médias d'avancer et, de l'autre, favorise les contenus particulièrement nocifs.

M. Rachid Temal, rapporteur. - Merci. La porte d'entrée de cette commission d'enquête concernait le devenir des démocraties dans ce monde particulier, avec deux approches : vous avez cité un certain nombre de pays qui utilisent la désinformation, la guerre informationnelle, contre des démocraties, et, au sein même des démocraties, il existe l'enjeu des « big tech », les puissances technologiques qui utilisent les plateformes, mais également parfois les grandes structures comme les câbles sous-marins. Or, le modèle économique de nombreuses de ces plateformes implique qu'une fake news qui génère de nombreux clics est plus intéressante que de l'information réelle. Pouvez-vous nous préciser ce qu'est l'intelligence artificielle, en distinguant l'intelligence artificielle d'analyse et l'intelligence artificielle générative ?

M. Gérald Holubowicz. - L'intelligence artificielle a traversé plusieurs évolutions technologiques. Les systèmes experts, ancienne forme de l'intelligence artificielle, fonctionnaient avec des règles, tandis que l'intelligence artificielle connexionniste recouvre les modèles génératifs qui sont basés sur du machine learning et apprennent d'une base de données un certain nombre de facteurs (les règles de grammaire, les espaces sémantiques pour le langage, les contours pour l'image, etc.). Originellement, l'intelligence artificielle consiste à reproduire les capacités cognitives de l'humain afin d'atteindre l'intelligence artificielle générale, à savoir un niveau d'intelligence artificielle équivalent à nos capacités cognitives et capable d'accomplir nos tâches - d'où la panique des cols blancs qui se sentaient jusqu'à présent protégés de l'automation de la société, mais qui finalement se retrouvent également confrontés à ce problème, les services devenant remplaçables par l'intelligence artificielle. L'intelligence artificielle générative a pour objectif de générer du contenu texte, audio ou vidéo de la même manière que nous pourrions filmer, enregistrer ou écrire un texte. La fluidité au niveau du texte n'est pas encore optimale, mais progresse, et sur le son, la qualité des rendus a considérablement été améliorée. OpenAI a récemment annoncé travailler sur une solution pour rendre indiscernables les voix synthétiques des voix humaines. La vidéo est en outre récemment arrivée avec HeyGen, de même que le photoréalisme avec OpenAI qui fabrique de l'image vidéo époustouflante.

M. Dominique de Legge, président. - Il semble exister un problème sémantique, car le terme d'intelligence artificielle est une mauvaise traduction d'un terme anglais et désigne plutôt un traitement de données artificialisé ou industrialisé. Pourtant, ce terme fait peur dans l'opinion publique, car beaucoup sont ceux qui pensent que cette intelligence va se substituer à la nôtre. Or, la donnée qui est entrée dans ces machines est à la base maîtrisée par l'Homme. Je pense que le terme employé en français ne décrit pas exactement ce que vous venez de décrire.

Gérald Holubowicz. - Vous avez raison, mais lorsqu'Alan Turing pense l'intelligence artificielle, il la pense bien en termes d'intelligence. Dans le test de Turing, il s'agit de tromper son adversaire dans le but de faire passer a machine pour une personne. L'intelligence artificielle doit donc trouver les mécaniques intelligentes au sens français du terme.

M. Thomas Huchon. - L'un des personnages qui ont eu le plus d'influence sur nos vies contemporaines est une personne que nous connaissons très mal. Il s'agit de l'Américain Robert Mercer, aujourd'hui milliardaire extrêmement influent dans la politique américaine. Au tout début des années 1960, Robert Mercer est un brillant ingénieur informatique qui travaille chez IBM. Il s'y voit proposer le challenge de créer un logiciel informatique qui permettrait de traduire du langage, ce qui constitue la base de ces intelligences artificielles que nous connaissons aujourd'hui. On lui propose de mettre à sa disposition les meilleurs linguistes, des spécialistes de la grammaire, de l'orthographe, des traducteurs et de l'argent, ce à quoi il répond qu'il n'a pas besoin de toutes ces personnes. Il demande en revanche la totalité des textes écrits depuis dix ans par le parlement canadien, car ces textes sont écrits en français et en anglais et sont extrêmement nomenclaturés et normés. Il explique qu'il va entrer ces textes dans sa machine, laquelle sera capable de comprendre et de traduire, puis d'apprendre de ses erreurs au bout d'un certain temps et de traduire du langage. Ce jour-là, Robert Mercer a inventé la science utilisée par Google Traduction. À la fin des années 1980, Robert Mercer, qui a continué sa carrière à IBM en tant que brillant ingénieur informatique, est sollicité par un fonds d'investissement new-yorkais, Renaissance Technologies, qui lui demande de créer un programme similaire à celui qu'il a créé sur le langage, mais sur les cours de la bourse. Ce fonds d'investissement lui propose de mettre à sa disposition des économistes, des spécialistes des marchés, les plus grands marchés et des financements. Mais, Robert Mercer répond qu'il n'a pas besoin de tout cela, récupère la totalité des chiffres de la bourse de New York des trois années précédentes, les met dans sa machine, laquelle est progressivement capable non seulement de comprendre ce qu'il se passe, mais également de prévoir les futures transactions. Ce jour-là, Robert Mercer a inventé le « boursicotage algorithmique » (algorithmic trading), qui représente plus de 90 % des échanges monétaires aujourd'hui. Employé par Renaissance Technologies, il devient milliardaire, car ce fonds d'investissement parvient à générer des taux de rentabilité de 80 % par an, ce qu'aucun de ses concurrents n'arrive à faire. Au début des années 2010, Robert Mercer décide de s'intéresser à la politique de son pays en finançant des think tanks climatosceptiques, islamophobes, contre l'avortement, etc. Il finance surtout la création de l'entreprise Cambridge Analytica et du site Breitbart News, principal site de désinformation utilisé par le courant favorable à Trump durant les élections de 2016. Après avoir inventé la machine à traduire du langage et la machine à gagner de l'argent, Robert Mercer a inventé la machine à gagner les élections.

Dans cette tentative de définir ce que sont ces programmes informatiques qui ne sont pas de l'intelligence, il faut plutôt parler de malignité et d'une tentative de substituer à une partie des êtres humains et de leurs capacités cognitives des machines qui vont essayer de reprendre le contrôle de tous ces univers. Or, tout cela est possible, car l'avènement des nouvelles technologies de l'information et le changement de paradigme créent les conditions d'un monde dans lequel ces « intelligences » deviennent une forme de malignité. Il s'agit d'outils fabriqués par des humains qui y mettent une partie des biais qui les caractérisent et la puissance publique doit donc nous aider à y voir plus clair et exiger de la transparence sur la manière dont ces machines sont fabriquées.

M. Rachid Temal, rapporteur. - Merci pour ces premières réponses. Notre commission d'enquête porte sur les politiques publiques à mettre en place. Nous nous intéressons à l'ingérence étrangère, mais cela constitue un seul biais. Sur les questions des processus électoraux pour commencer, auriez-vous des préconisations à proposer à notre commission d'enquête ?

M. Thomas Huchon. - Il existe trois niveaux d'intervention. Tout d'abord, il faut une prise de conscience de la société. Avoir conscience qu'il existe de potentielles manipulations constitue en effet une première manière de se protéger. Une communication publique doit faire état de ces potentiels dangers, comme on pourrait parler des dangers d'une substance illicite ou de comportements routiers inappropriés, afin de conduire à une position claire sur l'éducation aux médias, à l'information et au décryptage de l'information, laquelle devrait devenir de l'ordre du savoir fondamental enseigné à l'école dès le plus jeune âge.

Deuxièmement, il faudrait faire en sorte que des règles existent dans un espace qui n'en a pas. Toutes ces manipulations de l'information sont possibles, car l'information peut circuler sans contrainte. Si une telle liberté peut faire rêver, la loi française pose des limites à la liberté d'expression, la principale en étant la responsabilité du propos qui sont tenus - laquelle est trop rarement respectée sur ces plateformes. La loi de 1881 stipule qu'il doit être possible d'identifier la personne qui s'exprime et de la tenir comptable des propos qu'elle tient. Cela conduit à souhaiter que cet univers ne soit pas censuré, mais régulé, afin qu'il soit possible d'agir en cas d'abus, sans pour autant préempter de potentiels abus.

Un troisième élément relève à la fois de l'économie de l'attention et de la transparence nécessaire à l'observation de ces univers. Les plateformes sociales qui distribuent aujourd'hui ces contenus, armes visibles de ces influences de désinformation, sont des espaces dans lesquels l'information ne circule pas équitablement. Les grands médias professionnels ont d'immenses défauts, mais ils ont l'avantage d'être responsables de ce qu'ils diffusent et leur objectif est avant tout de fournir la meilleure information possible du point de vue de leur ligne éditoriale. Ces plateformes n'ont pas cette ambition et veulent simplement capter l'attention, car plus vous restez connectés longtemps, plus elles vont pouvoir récupérer des informations à votre sujet et vous profiler pour vous vendre de la publicité et donc gagner de l'argent. Cela renvoie aux propos de Patrick Le Lay qui, à la fin des années 1990, avait dit que son travail à TF1 consistait à « vendre du temps de cerveau disponible » à Coca-Cola. Cela nous avait semblé odieux à l'époque, mais je vais vous faire une confidence : Patrick Le Lay me manque aujourd'hui, car il avait le mérite de nous le dire clairement et qu'il disposait, pour nous vendre du Coca-Cola et capter nos cerveaux, uniquement de ce que nous lui disions. À l'inverse, Monsieur Zuckerberg de Facebook sait aussi ce que nous ne lui disons pas. Le vrai problème de ces plateformes n'est pas tant qu'elles diffusent de la désinformation, mais plutôt que leur modèle économique qui repose sur la captation de l'attention donne une prime presque systématique aux contenus qui captent notre attention. Or, les contenus qui captent le mieux notre attention sont ceux qui contiennent le plus d'appels à la colère et le plus d'émotions, qui vont jouer le plus sur nos indignations, à savoir les fake news. Il s'agit donc d'une conséquence terrible de ces modèles économiques plutôt que d'une volonté profonde de ces plateformes de fabriquer de la désinformation et de la diffuser.

Il faut arrêter de considérer que ces plateformes sont des tuyaux et plutôt les faire rentrer dans la loi de 1881 sur la liberté de la presse. Pour savoir si ces plateformes doivent entrer dans la loi de 1881, il faut répondre à trois questions. La première est de savoir si ces plateformes diffusent de l'information, ce qui est le cas. La deuxième question est de savoir si elles hiérarchisent et éditorialisent ces informations, ce qui est également le cas, car l'information que voit une personne n'est pas nécessairement la même que celle que voit une autre personne naviguant sur la même plateforme. La troisième question est de savoir si elles gagnent de l'argent en réalisant ces deux premières opérations, ce qui est le cas. Il semble difficile de considérer qu'une plateforme qui diffuse de l'information, hiérarchise et éditorialise de l'information et gagne de l'argent en le faisant ne serait pas un média, mais un simple tuyau. Je pense qu'il existe une forme de contradiction inacceptable, que nous avons acceptée, et que nous sommes aujourd'hui dans un état de fait très désagréable, dans lequel nous sommes un peu pris au piège de nos incompréhensions technologiques depuis quinze ans et de notre passivité sur tous ces sujets. Je suis ravi de pouvoir porter cette parole ce jour. Ce que je vous dis n'est pas tant le fait de ma conviction ou d'une idéologie que je porterais, mais plutôt les conclusions des travaux et enquêtes sur lesquels je travaille en tant que journaliste d'investigation. Je ne suis pas un idéologue ni un homme politique, je vous partage l'expérience de dix ans d'investigation sur ces sujets, notamment sur les réseaux sociaux, afin de porter cette parole et celle de tous ces lanceurs d'alerte qui ont quitté ces grandes entreprises et qui disent la même chose, même s'ils ne sont pas suffisamment écoutés - je sais néanmoins que Frances Haugen (la lanceuse d'alerte de Facebook) a été reçue au Sénat et je pense que ce type de témoignage gagnerait à être multiplié.

M. Gérald Holubowicz. - En premier lieu, l'éducation aux médias est importante. Il faudrait mettre en place un plan décennal et imaginer sur le temps long une intégration fine de l'éducation aux médias dans l'enseignement scolaire, qui ne soit plus seulement le fait d'intervenants extérieurs ponctuels. Il faudrait une structuration pédagogique autour de l'information aux médias, y compris avec une approche technique du numérique. Cela aiderait beaucoup, car nous avons fait une erreur depuis les années 1980 en écoutant les récits marketing de Steve Jobs et en considérant l'ordinateur comme une console de jeux vidéo, alors que la complexité de ces machines est redoutable. Les moins de 25 ans ne sont pas des découvreurs de technologies comme nous avons pu l'être, mais des consommateurs d'interfaces qui sont designées pour accaparer l'attention et augmenter le temps de présence sur les écrans. La proposition de Najat Vallaud-Belkacem sur la limitation du temps d'internet était provocante en ce qu'elle permettait de réfléchir à ces usages et à ces objets que nous avons tout le temps dans la main sans réellement les connaître. Demain, très probablement, l'intelligence artificielle sera embarquée dans ces outils. On ne trouve quasiment plus de jeunes qui n'utilisent pas de filtres sur leurs téléphones portables quand ils se prennent en selfie. Or, cela entraîne une forme de désintermédiation avec soi-même, son corps, son image. Il faudrait parvenir à indiquer aux enfants et aux adolescents que ces filtres induisent une véritable transformation de leur comportement. Par ailleurs, l'univers du numérique est aussi un univers porteur de valeurs toxiques et d'idées qu'il faut pouvoir maîtriser et apprendre à identifier.

Il faut également redonner un « coup de fouet » à la presse en essayant de restructurer les flux naturels de revenu de la presse. Google monopolise 90 % des parts de marché sur le revenu publicitaire et Facebook fait de même sur les réseaux. Sous l'impulsion de Mark Zuckerberg, Facebook a en outre tendance à bloquer les sites et Elon Musk en a fait de même avec Twitter. Il est nécessaire de casser ce monopole publicitaire - tous les acteurs du monde entier, hormis Google et Facebook, se partagent 5 % des revenus publicitaires - et restructurer ces flux afin de redonner de l'oxygène à la presse, lui permettre d'innover à nouveau et lui redonner les armes de son indépendance. Il faudrait par ailleurs conditionner certaines aides à la presse en fonction des titres qui emploie de vrais êtres humains, sans pour autant que cela implique d'enlever des aides aux médias ayant utilisé de l'intelligence artificielle.

Il faudrait par ailleurs imposer aux plateformes le statut d'éditeur afin de lutter contre l'impunité de ceux qui s'y expriment, voire inciter l'existence d'un équilibre quant à la présence d'information au sein de ces plateformes. Au niveau européen, l'AI Act n'adresse pas l'espace informationnel au niveau de l'intelligence artificielle ; il évalue uniquement les risques existentiels, mais pas l'impact sur les démocraties à travers les problématiques de désinformation et la prolifération des contenus liés à l'intelligence artificielle.

Mme Sylvie Robert. - Les états généraux de l'information sont toujours en cours, mais une piste semble d'ores et déjà se dessiner, ayant trait à la labellisation de l'information, à l'instar de ce que porte la Journalism Trust Initiative. Y êtes-vous favorable ? Estimez-vous que ce processus a du sens, surtout dans le contexte de désinformation que vous énoncez ?

Préconisez-vous d'établir une vraie stratégie de défense informationnelle ? Considérez-vous qu'il en existe une et, sinon, quels pourraient être ses fondements et ses priorités et quelles mesures phares pourraient y figurer ?

Les travaux d'Asma Mhalla mettent en contrepoint la question de la technologie et de la démocratie, notamment par rapport aux usages pernicieux de l'intelligence artificielle générative. Pensez-vous que les démocraties sont en mesure de faire face aux risques de déstabilisation sans se perdre, sans perdre leurs valeurs ?

Enfin, que pensez-vous de l'accord entre Le Monde et OpenAI ? Pensez-vous que le législateur devrait encadrer de tels accords ?

Mme Nathalie Goulet. - J'ai trouvé votre audition très intéressante. J'ai présidé une commission d'enquête sur les réseaux djihadistes il y a dix ans et votre collègue Gurvan Kristanadjaja avait monté un faux profil Facebook pour attirer de jeunes Français voulant faire le djihad en Syrie et en Irak. Il avait alors fait un exposé terrifiant de la manière dont l'algorithme fonctionnait, ce dernier ayant présenté dans un temps très court des centaines de profils qui souhaitaient s'engager et lui expliquaient comment partir en Syrie et en Irak. Le constat de ces algorithmes un peu mortifères était donc déjà fait. Comment essayer de combattre dans un affrontement asymétrique ? Le modèle économique est en effet sous-tendu par ces algorithmes et il n'est pas certain que le législateur français ou européen puisse contrer un modèle économique. Le Sénat a voté il y a quelques années le principe de l'information aux médias comme étant une cause nationale et je pense qu'il faut reprendre ce sujet. Considérer les plateformes comme des éditeurs règlerait le problème de la responsabilité, mais cela ne règlerait pas les autres questions. Vous n'avez par ailleurs pas parlé de tout ce qui concerne les cryptoactifs et les monnaies dématérialisées. Pensez-vous vraiment qu'il soit possible de mener cette croisade, sachant que les GAFAM constituent un modèle qui nous dépasse en termes de capacité dans une guerre asymétrique ?

M. Gérald Holubowicz. - La question de la labellisation de l'information recouvre plusieurs niveaux. D'un point de vue purement technique, les contenus peuvent être labellisés pour certifier leur authenticité de la prise de vue jusqu'à la diffusion. Plusieurs labels existent d'ailleurs, comme le C2PA, un consortium technique qui s'est mis en place aux États-Unis et qui est chargé d'arriver avec une solution technique d'implémentation, et la Content Authenticity Initiative qui est en charge de la promotion de cette solution et promeut l'adoption d'un tag et d'inscriptions dans le fichier produit pour pouvoir le tracer. Avec un appareil photo Leica par exemple, dès lors que l'on appuie sur le déclencheur, un tag s'inscrit dans le fichier de la photo, permettant de tracer le parcours de cette photographie. Cela est également faisable sur de la vidéo, mais cela l'est beaucoup moins sur les textes. Il s'agit cependant de dispositifs techniques qui peuvent être contournés d'une manière ou d'une autre, en coupant la photographie ou l'image par exemple. S'agissant de la labellisation de l'information au sens large, je suis plus réservé, car la question se pose de savoir ce qu'est la « bonne » information, d'autant que cette « bonne » information peut rapidement changer en fonction des régimes et des situations politiques.

Sur la stratégie de défense informationnelle, je n'ai pas d'éléments, de même que sur la question de savoir si les démocraties sont en mesure de faire face aux déstabilisations.

En ce qui concerne Le Monde, le deal n'est pas fermé à OpenAI et pourrait être ouvert à d'autres entreprises comme Mistral AI. Le Monde a conclu cet accord commercial afin d'être la première source recommandée aux utilisateurs de ChatGPT en termes de source. D'un point de vue stratégique, cela semble cependant revenir à donner trop rapidement les clés de la maison à quelqu'un qu'on ne connaît pas vraiment, sachant que la situation s'est déjà produite avec d'autres acteurs comme Facebook, où il a fallu s'extraire d'accords compliqués malgré d'importants investissements.

Concernant la manière de se battre contre les GAFAM dans un système asymétrique, il s'agit d'une question de vision de société et de capacité politique à imposer des règles. Quand l'AI Act a été voté par la Commission européenne, de nombreux lobbies étaient payés jour et nuit pour influencer le résultat des délibérations. C'est la raison pour laquelle l'AI Act se base uniquement sur les risques systématiques comme l'executive order de Biden, car cela correspond à ce que les GAFAM veulent poser comme problématique. Il faut donc poser des limites pour ne pas laisser quelques acteurs se répartir 90 % du marché de la publicité et imposer l'intelligence artificielle dans tous les secteurs, pour leur imposer de répondre à certains critères de mise sur le marché, etc. Il s'agit d'un positionnement politique, mais souvent, on préfère la course à l'innovation en pensant que cela va nous donner un avantage économique. Or aujourd'hui, en termes d'impacts environnementaux et énergétiques, s'il faut alimenter l'intelligence artificielle avec des puces qui valent 40 000 euros pièce, cela suppose une colossale extraction minière causant de la pollution et une forte consommation d'énergie. Cela suppose par ailleurs qu'il faudra rafraichir ces centres de serveurs avec de l'eau fraîche. Il faut donc prendre le temps de la réflexion. Je suis plutôt favorable à une convention citoyenne sur le numérique et l'intelligence artificielle qui permettrait d'éduquer aux enjeux forts et compliqués du numérique et de l'intelligence artificielle tout en faisant comprendre qu'il existe de véritables intérêts, afin d'arriver à une solution équilibrée.

M. Thomas Huchon. - S'agissant de la labellisation de l'information, je comprends l'idée sous-jacente et la vertu que pourrait avoir une forme de labellisation, mais je ne suis pas certain qu'elle marcherait mieux que la défiance généralisée que les complotistes et les personnes qui adhèrent aux fake news ont pour les grands médias et les institutions. Cela concerne entre 20 % et 40 % de la population française. Il n'existe cependant pas de mauvaise initiative face à ces problèmes et il faut donc en essayer un certain nombre.

En ce qui concerne la nécessité d'une stratégie de défense informationnelle, il apparaît que la démocratie est probablement le système politique ayant le moins de moyens pour se défendre lui-même. L'idée que l'on touche à un certain nombre des principes fondamentaux de la démocratie peut donc être inquiétante, mais en réalité, l'inquiétude vient plutôt de ces entreprises privées qui ne respectent pas la loi, ne paient pas l'impôt qu'elles devraient payer, transforment l'espace informationnel et font de nous des « petits hamsters » avides d'émotions et nourris aux fake news. Nous avons fait une erreur en tant que journalistes, car pendant longtemps, nous avons essayé de fabriquer de l'information comme nous voulions la consommer nous-mêmes. Or, en refusant d'aller combattre dans cet espace informationnel dérégulé, nous avons perdu. En même temps, nous ne voulions pas « nourrir » la machine qui était en train de nous détruire. Cela fait vingt ans que je fais ce métier et que je travaille sur internet et pendant longtemps, les grands médias professionnels ont refusé d'aller sur internet. Or, la nature a horreur du vide et à chaque fois que nous laissons un espace vide, s'y engouffrent ceux qui ont le plus envie d'y aller, et il s'agit rarement des plus modérés et des plus respectueux des principes démocratiques. S'il existe des fake news et des théories du complot, c'est avant tout, car des personnes les fabriquent et ce n'est pas seulement parce que les réseaux sociaux les diffusent. Il faudra donc aussi s'interroger sur la responsabilité et les intérêts de tous ceux qui fabriquent ces mensonges. À chaque fois que nous n'allons pas contredire un récit complotiste qui circule, nous donnons l'illusion aux internautes qui n'auraient pas d'opinion sur ce sujet qu'il n'existe que la version complotiste des choses. Il faut donc une stratégie de défense informationnelle, sachant que personne n'est prêt à payer pour s'informer sur la lutte contre la désinformation. Il faudra trouver un moyen et passer par la puissance publique ou les médias publics, mais tout cela ne pourra pas se faire tout seul. Les citoyens ont également un rôle à jouer, car pour civiliser cet espace numérique, il faut nous y comporter comme des citoyens. Il faut à la fois avoir de la mesure, prendre du temps, réfléchir, s'interroger et respecter les principes démocratiques fondamentaux qui nous gouvernent, tout en s'inscrivant dans un combat asymétrique. Dans la lutte contre la désinformation comme dans l'approche sur l'impact des algorithmes, comme dans l'approche sur l'impact des réseaux sociaux et comme dans l'approche sur les intelligences artificielles, notre cécité technique et technologique nous empêche de comprendre les problèmes et nous pousse dès lors à courir après ces problèmes sans jamais être en mesure de formuler une solution. Nous nous trouvons face à un dilemme : protéger les institutions démocratiques et les principes démocratiques qui nous gouvernent tout en étant capables d'avoir un rapport de force à la hauteur des enjeux auxquels nous faisons face. Certains pays étrangers investissent des millions d'euros pour déstabiliser nos démocraties, comme la Russie lors des élections présidentielles américaines de 2016. À l'époque, il fallait fabriquer des contenus, alors qu'aujourd'hui, il existe une technique consistant à repérer des points de clivage réels dans la société et à mettre de l'huile sur le feu. Cela donne l'illusion à ceux qui observent le débat public autour d'un problème réel qu'il n'existe que les deux voies les plus extrêmes sur le sujet.

À l'inverse de « l'infobésité », le fait d'être tellement confronté à des informations qu'on ne sait plus comment faire, se trouve « l'infodémie », terme inventé par l'OMS pour qualifier la pandémie de fausses informations à laquelle nous avons été confrontés durant la Covid-19. Ces deux phénomènes mis ensemble créent les conditions de cette fameuse « post-vérité », le fait que la vérité n'a plus d'importance, car nous ne partageons plus les faits et qu'il ne reste dès lors plus que les opinions qui sont en permanence exacerbées.

Je suis toujours frappé de voir un enfant de deux ans qui sait se servir d'une tablette et cela dit quelque chose de l'état dans lequel ces outils nous replongent. Nous ne sommes plus vraiment des êtres humains doués de nos réflexions quand nous sommes devant ces outils. Nous sommes à la fois plongés dans nos émotions et nous redevenons des enfants, là où nous pourrions avoir des réflexions d'adultes.

Mme Gisèle Jourda. - La formation de l'esprit critique est très importante, car sur les chaînes d'information en continu, on ne sait jamais d'où parle la personne, comment l'information a été détectée, etc., et quelle est la différence entre la chaîne d'information et la chaîne d'opinion. Or, pour avoir une opinion, il faut former l'esprit critique. Quels sont les mesures d'urgence à prendre ?

M. Gérald Holubowicz. - L'adage « ce n'est pas parce qu'on peut qu'on doit » circule de plus en plus et correspond tout à fait à ce que la Silicon Valley fait : ils peuvent et ils font, peu importent les conséquences. Or, il faut pouvoir mettre des barrières. L'idée de la convention citoyenne sur le numérique et l'intelligence artificielle semble constituer une bonne piste de réflexion, car elle permettrait de dégager une prise de conscience générale et une forme de négociation collective autour de solutions acceptables quant à ces outils. Le numérique en lui-même n'est pas néfaste, mais les opérateurs qui animent le numérique aujourd'hui ont privatisé cet espace qui était ouvert et libre à tous initialement. Mettre des barrières relève de l'ordre de la puissance publique et politique et il s'agit d'un choix de société.

M. Thomas Huchon. - Vous conviez un espoir d'esprit critique et effectivement, cela est à la fois nécessaire et fondamental. Pour aller moi-même dans les collèges et les lycées pour faire de l'éducation aux médias et de l'éveil à l'esprit critique, je constate que même sans politique publique précise et sans moyens spécifiquement alloués à ces thèmes dans les établissements scolaires, la jeunesse de France ne semble pas être totalement larguée sur ces questions d'esprit critique, car il existe une réelle volonté au sein de l'école, avec du personnel merveilleux travaillant dans des conditions difficiles. Développer l'esprit critique consistera par ailleurs à créer des citoyens capables de comprendre que lorsqu'ils ont lu une page Wikipédia sur la physique quantique par exemple, ils ne maîtrisent pas la physique quantique. Il s'agit d'accepter l'impérieuse nécessité d'apprendre et la nécessaire humilité de comprendre que nous ne savons rien. Il faut pour cela prendre en compte le temps, car comprendre un phénomène prend du temps, ce qui devient de plus en plus difficile dans un univers de l'hyper-immédiateté. Ces outils nourrissent en outre les aspects les plus grégaires de nos cerveaux, alors qu'il faudrait miser sur d'autres valeurs essentielles, et notamment l'humilité.

M. Dominique de Legge, président. - Merci Messieurs.

Ce point de l'ordre du jour a fait l'objet d'une captation vidéo sur le site internet du Sénat.

La réunion est close à 19 h 00.