Jeudi 13 février 2025
- Présidence de Mme Christine Lavarde, présidente -
La réunion est ouverte à 8 h 35.
Examen du rapport « IA, territoires et proximité »
Mme Christine Lavarde, présidente. - Bonjour à tous. Je voudrais d'abord accueillir Éric Dumoulin, qui rejoint notre délégation. Bienvenue, et nous espérons qu'il contribuera à nos futurs travaux. Nous clôturerons aujourd'hui et jeudi prochain le premier cycle de nos travaux initié en novembre 2023, consacré à l'intelligence artificielle dans les politiques publiques.
Je suis fière de dire que nos travaux sont connus et reconnus. La semaine dernière, j'ai été invitée à être membre du jury d'un hackathon au ministère de la transformation publique. L'objectif était de faire travailler des équipes françaises et internationales à partir de données publiques en utilisant le modèle de langage Albert. Chaque équipe devait proposer une solution algorithmique ou visant à rendre le service public plus performant.
J'ai été invitée en raison de nos travaux, notamment notre regard pragmatique sur l'usage de l'intelligence artificielle. Hier soir, avec certains d'entre vous, nous avons échangé avec le ministre de la transformation publique sur nos travaux et le regard de notre délégation sur l'intelligence artificielle. J'ai retenu de ces discussions, et je le partage, que, entre novembre 2023 et février 2025, les technologies ont progressé à grande vitesse et se sont déployées dans l'espace public.
Je pense que nos deux rapporteurs, Amel Gacquerre et Jean-Jacques Michau, vont nous montrer comment les collectivités ont saisi cet outil et quelles sont les mises en garde à communiquer pour un usage pertinent de cette technologie sur les territoires, sans que ceux-ci ni les collectivités ne perdent une partie de leur richesse.
M. Jean-Jacques Michau, rapporteur. - Madame la Présidente, mes chers collègues, nous présentons aujourd'hui le quatrième opus de notre série de rapports de prospective consacrés à l'impact de l'intelligence artificielle sur les services publics. Après les finances publiques, la santé, l'éducation et juste avant l'environnement, nous vous présentons nos travaux consacrés à l'IA, les territoires et la proximité.
Il est naturel que le Sénat s'intéresse à l'avenir des territoires et à l'accès de nos concitoyens aux services publics, où que nous soyons, dans l'Hexagone ou dans les outre-mer. Les territoires sont l'espace vécu de la vie quotidienne de toutes et tous.
L'intelligence artificielle est une technologie de transformation globale capable de traiter une multitude de données et qui est déjà là. Le sommet de Paris a mis en évidence ses potentialités énormes. L'irruption en 2022 de l'IA générative a donné un coup d'accélérateur à cette technologie. Des modèles de langage comme ChatGPT sont entraînés pour fournir des réponses très ciblées à des requêtes en langage naturel.
L'IA ne se résume pas à l'IA générative. Des formes classiques de systèmes intelligents existaient avant et se sont perfectionnées pour offrir des services de plus en plus performants. Lorsqu'une technologie existe et devient performante, il est illusoire de penser qu'on pourra la stopper. Elle sera utilisée en la cadrant, en la domestiquant.
La transformation numérique par l'IA étant un phénomène global, il touchera naturellement les territoires. Il s'agit donc pour nous, délégation à la prospective du Sénat, d'analyser les impacts possibles et d'imaginer les futurs probables.
De quoi parle-t-on quand on parle de territoire ? Nous avons eu à nous poser cette question de délimitation de notre sujet.
Nous parlons bien sûr des collectivités, mais aussi de l'action de l'État à l'échelle déconcentrée et des services relatifs à la gestion de l'espace géographique, comme l'eau, l'énergie, les déchets, l'aménagement du territoire, l'agriculture, l'exploitation forestière ou la mobilité. L'intelligence artificielle (IA) peut intervenir dans ces domaines et améliorer le fonctionnement des services publics. Cependant, un déploiement non maîtrisé de l'IA suscite des craintes : automatisation excessive, déshumanisation des services publics, creusement des inégalités territoriales. L'IA nécessite des données massives pour fonctionner. Or, nous assistons à une explosion des données numériques territoriales. L'imagerie satellite, les Lidars, les objets connectés et les capteurs fournissent des informations précises sur le territoire. Nous sommes nous-mêmes producteurs de données territorialisées avec nos smartphones. Les données numériques sont partout et s'enrichissent chaque jour. Une partie est produite et gérée par les collectivités territoriales, mais beaucoup relèvent des fournisseurs de services numériques. Encore faut-il pouvoir exploiter ces données pour nourrir les systèmes d'IA. Les données publiques font l'objet d'une politique d'ouverture dite « open data ».
L'objectif est la transparence vis-à-vis du citoyen, mais également d'encourager les fournisseurs de solutions numériques à disposer de jeux de données pour élaborer des applications innovantes. La plateforme data.gouv.fr permet de connaître ces jeux de données. L'enjeu est ensuite de faire communiquer les données produites entre elles, les rendre interopérables. C'est un travail mené au sein du Conseil national de l'information géolocalisée, le CNIG.
L'intelligence artificielle peut aider à décrire le territoire, synthétiser les informations nombreuses. L'Institut national de l'information géographique et forestière (IGN) a montré comment on peut affiner la description du territoire par l'intelligence artificielle. Les classements effectués grâce à ce travail d'annotation sont ensuite automatiquement appliqués à l'ensemble du territoire pour obtenir une cartographie augmentée.
L'intelligence artificielle peut aussi prévoir, anticiper en traitant des données collectées en temps réel. Météo-France utilise des systèmes d'intelligence artificielle pour traiter les informations de ses capteurs, les croiser avec sa base de connaissances et prédire la météo à venir avec de plus en plus de précision.
L'intelligence artificielle peut ensuite aider à gérer le territoire, à automatiser certaines actions. Des capteurs peuvent réguler les feux de circulation routière en fonction du trafic. Ils peuvent ajuster la luminosité des candélabres d'éclairage public selon la luminosité naturelle, le nombre de passages, etc. Nous n'avons pas procédé à un recensement exhaustif de l'ensemble des cas d'usage de l'intelligence artificielle dans les territoires mais ils sont nombreux. Le rapport du Conseil d'État de 2022 avait fourni une liste assez large et qui s'est encore enrichie depuis.
L'intelligence artificielle est utilisée pour identifier les dépôts sauvages à partir d'images satellites, afin d'intervenir rapidement. Les pompiers l'utilisent pour modéliser la cinétique des incendies en fonction du terrain, des vents dominants et de la végétation. Les gestionnaires des réseaux d'eau identifient les zones où les fuites sont susceptibles de se produire.
L'intelligence artificielle intervient également dans les relations directes avec le public. Les démarches administratives assistées par l'intelligence artificielle se généralisent. La direction interministérielle du numérique a développé une solution dénommée Albert, qui s'appuie sur la base droits et démarches de service-public.fr. Cet assistant virtuel est à la fois un moteur de recherche et un générateur de texte. Les collectivités peuvent l'utiliser pour travailler sur leurs propres données locales.
L'intelligence artificielle est également utilisée dans des processus internes de gestion, par exemple pour la gestion des ressources humaines, pour faire une pré-analyse des candidatures ou dans le cadre de la rédaction et l'analyse des marchés publics. Elle peut aider à rédiger des délibérations dans une collectivité ou encore analyser les demandes qui remontent des habitants. L'intelligence artificielle permet de gagner du temps en traitant rapidement des tâches qui étaient auparavant plus longues à réaliser. Elle permet de fiabiliser les résultats en traitant de manière plus égalitaire les différentes demandes. Elle est un facteur d'alignement vers le haut du niveau technique des administrations. L'intelligence artificielle permet enfin de réaliser des actions qui n'étaient pas possibles auparavant.
L'intelligence artificielle peut être une chance pour la ruralité. On présente à tort la ruralité comme un espace sous-développé technologiquement. L'intelligence artificielle a besoin de connectivité, mais elle peut étendre le champ des possibles. La connectivité peut être assurée par la communication satellite, ce qui profite particulièrement à la ruralité. Dans l'exploitation agricole et forestière, l'intelligence artificielle joue un rôle croissant dans les choix de traitement des plantes. Les robots sont également de plus en plus présents dans nos champs.
En matière de mobilité, même si les espaces ruraux sont moins bien dotés en transport collectif, l'intelligence artificielle permet d'optimiser les solutions alternatives comme le transport à la demande. Il est inutile d'opposer le monde des villes hyper technologique à celui des campagnes. Le rural est de plus en plus connecté et les services numériques réduisent les écarts dans l'accès à l'information et aux services publics.
Mme Amel Gacquerre, rapporteure. - Depuis le début de nos travaux, nous faisons le constat que l'intelligence artificielle devrait avoir un impact important et global, mais en même temps, il nous est difficile d'évaluer précisément cet impact. C'est le lot de toute technologie transformatrice et en évolution constante. L'intelligence artificielle est encore largement « à Paris » et l'équation bénéfice-risque difficile à résoudre car il y a encore beaucoup trop d'inconnues.
Les promesses de l'intelligence artificielle sont séduisantes : gain de temps, correction des erreurs, économie, possibilité de faire plus et mieux, offre de nouveaux services.
Je m'attarderai sur trois apports de l'intelligence artificielle pour nos territoires. Premièrement, l'intelligence artificielle peut apporter une aide à la décision éclairée en univers complexe. Un des outils pour cela est le jumeau numérique. L'IGN a indiqué lors de son audition être en train d'élaborer un jumeau numérique du territoire pour simuler les effets du changement climatique. Un jumeau numérique peut s'avérer utile aussi pour tester des scénarios, évaluer les effets des décisions. Ainsi, en matière d'aménagement des espaces urbains, un jumeau numérique pourra donner une idée précise des modifications possibles de flux de véhicules induits par un changement de sens de circulation, la création d'un nouveau carrefour ou encore l'implantation d'un équipement public ou d'un magasin. Avec le jumeau numérique, l'intelligence artificielle ne remplace pas l'humain. Elle ne décide pas à sa place, mais lui donne plus de capacité à décider en toute connaissance de cause.
Deuxième apport de l'intelligence artificielle : l'optimisation des ressources du territoire. Cet objectif n'a pas attendu l'intelligence artificielle pour être formulé. Le projet d'optimiser la ville grâce au numérique s'est traduit dans un concept qui existe depuis plus d'une décennie, la smart city ou la ville intelligente. La smart city désigne un ensemble de pratiques et d'installations qui permettent à terme de transformer la manière de vivre sur un territoire, d'améliorer la qualité de vie des habitants en intégrant les défis qui s'imposent à nous, par exemple le vieillissement de la population ou la préservation des ressources naturelles. Les données sont et restent au centre de ces dispositifs.
Le modèle de la smart city n'a pas encore été adopté de manière massive et complète. Nous avons mis en oeuvre certaines briques dans quelques agglomérations, par exemple pour la gestion des bâtiments publics ou la circulation, mais son application complète relève encore de la science-fiction. L'intelligence artificielle présente toutefois des avantages, tels que le renforcement des traitements de données, la gestion de la croissance des masses d'informations et l'automatisation de tâches. Par exemple, l'automatisation des analyses de situations pour la vidéo-verbalisation ou l'information de la population sur la qualité de l'air.
L'IA permet également un service direct et plus rapide aux usagers, notamment grâce aux robots conversationnels ou chatbots.
Cependant, avant d'accélérer l'usage de l'IA, il est essentiel d'identifier les risques qu'elle présente. Nous en avons identifié six. Le premier risque est la dérive des coûts, car les développements actuels sont expérimentaux et soutenus par des aides publiques. Nous n'avons pas encore trouvé de méthode d'analyse du retour sur investissement des projets d'IA dans les territoires.
Le deuxième risque est celui des consommations élevées d'énergie, notamment pour faire fonctionner les systèmes de collecte de données et entraîner les modèles d'IA. Cela a conduit le ministère de l'environnement à promouvoir des principes d'une IA dite frugale.
Le troisième risque est la déshumanisation, remplaçant les échanges avec les humains par des échanges avec les robots. Nous ne souhaitons pas que des décisions qui impactent notre vie quotidienne soient intégralement traitées par des machines. Demain, si un administré s'adresse à un service d'urbanisme entièrement automatisé pour une demande de permis de construire, la décision prise sera-t-elle acceptée, surtout si elle n'est pas favorable à l'administré ?
Le quatrième risque est la dépendance technologique et stratégique. Les grands acteurs de l'intelligence artificielle se disputent un marché gigantesque et pourraient imposer leur technologie et leurs conditions. Pour contrer ce risque, il est essentiel de disposer d'un marché avec des alternatives, de défendre des standards informatiques ouverts, de conserver la main sur les données publiques et de stocker l'information numérique sur les clouds souverains.
Le cinquième risque est celui de la remise en cause insidieuse des libertés publiques. Des règles existent en matière de protection des données personnelles ou encore de vidéosurveillance, mais les garde-fous sont fragiles et les moyens de sanction des grands acteurs du numérique demeurent limités.
Le dernier risque est celui de l'aggravation des inégalités territoriales. La capacité à se saisir des nouvelles technologies n'est pas la même selon les territoires, la taille des collectivités, et l'on peut craindre que l'usage, le développement de l'intelligence artificielle ne se fassent pas au même rythme que l'on vive à Marseille ou à Balazuc, en Ardèche.
La réglementation, en particulier le règlement européen sur l'intelligence artificielle (dit AI Act), interdit certaines pratiques comme la vidéosurveillance biométrique automatisée. Le règlement européen sur les données, l'European Data Act, protège aussi le patrimoine des données publiques et vise à limiter notre dépendance aux grands acteurs du numérique.
Pour répondre à ces risques, il convient de dégager des moyens financiers importants pour l'intelligence artificielle et de disposer de ressources humaines capables de piloter des projets d'intelligence artificielle. La mutualisation, comme le font déjà certaines collectivités, notamment dans le cadre de syndicats mixtes, peut être une solution. Il est également nécessaire de donner un cadre de gouvernance à l'intelligence artificielle dans les territoires en associant les citoyens et en conservant un pilotage par les élus. L'intelligence artificielle n'est pas une affaire d'ingénieurs et d'informaticiens, elle est l'affaire de tous et les stratégies locales doivent faire l'objet de concertation.
Je vais aborder les trois scénarios d'application de l'intelligence artificielle (IA) dans les territoires, formalisés dans le cadre de ce rapport. Le premier scénario est celui de la méfiance assumée, fondée sur les inquiétudes de nos concitoyens relatives aux risques, notamment en matière de cybersécurité. L'étude de l'Observatoire Data Publica montre que la méfiance vis-à-vis de l'IA est en hausse. Cependant, notre familiarisation avec l'IA dans nos pratiques quotidiennes nous fait progressivement sortir de ce scénario.
Le second scénario est celui du tâtonnement prudent, de l'application par l'expérimentation. Une offre commence à se structurer, avec des expérimentations menées et des bonnes initiatives qui se diffusent. Nous sommes aujourd'hui dans ce scénario, où l'IA ne peut être qu'une aide à la décision et non un remplaçant des processus décisionnels classiques.
Le troisième scénario est celui de la mise en oeuvre ordonnée, que nous n'avons pas encore atteinte. Cependant, certains outils d'IA pourraient s'imposer, notamment dans la gestion de certains grands services publics locaux. Là encore, l'IA ne peut être conçue que comme une aide, pas comme un remplaçant de la décision humaine. Nous concluons notre rapport par des recommandations que nous formulons à deux voix.
M. Jean-Jacques Michau, rapporteur. - La collecte de données massives et de qualité est essentielle à la construction d'outils d'intelligence artificielle performants. Nous formulons deux propositions à ce sujet. Premièrement, il est nécessaire de mieux connaître et mieux organiser la production et l'exploitation des données numériques territoriales, rejoignant ainsi les conclusions du rapport « Data et territoire » de fin 2023. Deuxièmement, nous proposons d'affirmer le principe de propriété collective des données publiques locales.
Nous avons également trois propositions concernant l'utilisation des outils d'intelligence artificielle dans les territoires. Tout d'abord, nous suggérons de mettre en production des systèmes d'intelligence artificielle à travers la pratique de l'expérimentation, préalable à la diffusion de bonnes pratiques, en continuant ainsi les appels à projets. Ensuite, nous recommandons de privilégier les outils d'intelligence artificielle souverains lorsqu'ils existent. Enfin, nous proposons d'orienter les choix vers les intelligences artificielles frugales.
Mme Amel Gacquerre, rapporteure. - Un troisième bloc de préconisations concerne les moyens à mobiliser pour réussir les utilisations de l'intelligence artificielle (IA) dans les territoires.
Sixième proposition : garantir une couverture complète du territoire en infrastructures numériques, car l'IA ne peut fonctionner que si nous sommes connectés et équipés.
Septième proposition : rechercher la mutualisation des compétences locales en IA. C'est le moyen le plus efficace à court terme et le plus réaliste pour porter des projets d'IA dans les territoires. Nous avons besoin de personnes formées pour dialoguer avec les fournisseurs de solutions informatiques, ce qui permettra aux collectivités d'être moins dépendantes des éditeurs de solutions ou de prestataires d'assistance à maîtrise d'ouvrage et de garder la main sur les données produites.
Enfin, un quatrième et dernier bloc de trois propositions concerne les utilisateurs de l'IA et les citoyens qui doivent être des acteurs de la transformation numérique des territoires par l'IA et non la subir.
Donc, huitième proposition : former les collectivités et les utilisateurs actuels et futurs, agents territoriaux comme citoyens.
Neuvième proposition : anticiper la reconversion des agents dont les tâches vont être automatisées avec l'usage de l'IA.
Dixième proposition : mettre en place une gouvernance locale participative de l'IA. Il convient de garantir non seulement la bonne information des citoyens sur le recours à l'IA dans les territoires, mais aussi de les associer au choix stratégique.
Pour conclure, les solutions d'IA sont testées chaque jour par un nombre de plus en plus important d'acteurs locaux. L'IA n'est pas une bulle, ni un effet de mode.
Maîtriser l'IA va nous demander un investissement considérable, mais avec un retour tout aussi considérable, notamment car elle permettra une meilleure connaissance de notre territoire et une action publique plus efficace, plus efficiente.
À nous donc de mettre en oeuvre les moyens adéquats pour tirer le meilleur profit de cette avancée technologique.
Mme Christine Lavarde, présidente. - Avant d'entamer le débat, je voudrais faire un petit sondage. Qui, aujourd'hui, dans sa collectivité, utilise déjà l'intelligence artificielle, puisque les champs d'application sont très vastes ?
M. Pierre Barros. - Il y a des agents qui utilisent cet outil de manière personnelle et qui ont un compte, mais également dans le cadre de leur travail. Un chef de service peut aussi organiser les tâches de manière transparente par rapport à la collectivité. Il y a donc ces deux usages.
Mme Christine Lavarde, présidente. - Je visais plutôt le domaine applicatif, en recourant à l'intelligence artificielle pour diverses tâches. Dans ma collectivité, nous l'utilisons pour la vidéo-verbalisation, ainsi que pour automatiser les tâches, notamment dans le domaine financier de la liquidation. Nous avons également mis en place un chatbot pour aider les personnes qui rencontrent des difficultés techniques, comme brancher leur imprimante à leur ordinateur. Ce chatbot effectue la recherche que la personne aurait dû faire dans l'aide Microsoft. C'est un exemple concret de ce que je voulais mettre en avant pour illustrer les champs d'application de l'intelligence artificielle.
M. Éric Dumoulin. - J'ai eu la chance ou la malchance d'avoir été maire, jusqu'à il y a encore trois mois. À Chatou, ville de 30 000 habitants, nous avons été pilotes. Nous utilisons la vidéo-verbalisation. J'ai considérablement digitalisé et numérisé la ville il y a 5-6 ans. Donc, automatiquement, nous avons intégré les outils d'accompagnement. Nous avons créé ou reconstitué un quartier avec une dimension smart city extrêmement puissante.
C'est empirique, ce que je vais dire, car nous n'avons pas encore le recul pour nous rendre compte de ce qui fonctionne et de ce qui ne fonctionne pas. Ce que nous avons mis en place est subventionné, ce qui est un point très important. Pour l'instant, les modèles économiques ne sont pas stabilisés. Il y a des modèles qui fonctionnent, mais pour l'aménagement urbain que nous avons installé, le modèle économique n'est pas stabilisé. Nous avons été fortement subventionnés, notamment par la région, pour mettre en place des systèmes de stationnement intelligents et des feux intelligents, et pour déployer des jumeaux numériques sur nos processus d'aménagement.
Sur les jumeaux numériques, c'est très intéressant, mais il faut des services techniques solides derrière. C'est un prérequis indispensable. Les gens qui s'imaginent qu'avec l'intelligence artificielle, tout va miraculeusement fonctionner, se trompent. S'il n'y a pas un niveau d'expertise fort des services pour guider l'intelligence artificielle, cela sera source d'erreurs majeures. Cela vaut pour l'urbanisme comme pour beaucoup de choses, car il faut un contrôle humain et une validation des données, de leur utilisation, des conclusions, et une validation par la praxis.
Par exemple, le stationnement intelligent, mis en place par une start-up, a été un cauchemar. Un an et demi après le lancement, cela ne marche toujours quasiment pas. C'est subventionné, mais la réalité, c'est que cela ne fonctionne pas ou mal. Nous examinons actuellement les résultats pour voir si nous obtiendrons un effet de fluidification de la circulation. Je pense que la smart city, qui signifie ville intelligente, en réalité ne signifie rien...
Je souscris entièrement à vos conclusions, sur la base d'une petite expérience très locale. Il y a des pistes extrêmement intéressantes qui seront incontournables d'ici quelques années, car c'est le sens de l'histoire. Cependant, il est essentiel que les collectivités et les territoires soient conscients que cela ne remplacera pas les systèmes existants. Il faut que ce soit extrêmement bien contrôlé.
Pour l'instant, je ne vois pas d'équilibre économique autonome, cela dépendra des secteurs. Lorsque les différentes applications seront de plus en plus partagées, les équilibres économiques viendront. Mais il faut éviter de se mettre dans les mains des grandes entreprises qui remporteront la compétition et rendront les collectivités dépendantes, soit avec des coûts de maintenance ou des coûts de mise à jour absolument hors marché. Il y a un travail à faire en matière de maîtrise des acteurs. Les collectivités ne doivent pas être dépassées par les engagements qu'elles peuvent prendre. Voilà quelques idées que je jette au fil de l'eau. Cela rejoint vos conclusions. L'IA est intéressante, ses applications sont très loin d'être mûres. Il faudra vraiment contrôler cela de très près.
M. Jean-Raymond Hugonet. - Personnellement, j'aurais une approche nuancée par rapport à ce que dit mon collègue, car l'échelle de ma commune n'est pas la même. Sur une commune de 6 700 habitants, l'erreur à faire est d'essayer d'embrasser tous les sujets en même temps. Il faut d'abord en avoir les moyens financiers et humains.
Cependant, il existe des secteurs sur lesquels cela ne coûte pas grand-chose, mais cela rapporte beaucoup. Nous avons commencé par un secteur, car j'en avais assez de voir ce que l'on consacrait pour une commune comme la mienne en fluide, électricité, gaz, eau. Avec le pilotage fin, indépendant et précis, les gains sont à peine croyables, non seulement financiers, mais aussi par rapport au sujet de la déshumanisation des choses.
Dans toutes nos collectivités, il y a des tâches répétitives. On peut concevoir qu'au bout de 10, 20 ans, des personnels, sur une tâche répétitive, ont besoin de se motiver. Là, c'est complètement différent parce que l'outil change et que la personne qui est au bout de l'outil comprend qu'elle fait gagner à la commune des moyens grâce à des économies.
Je vous encouragerais à développer ce type de solutions, qui commencent à se dupliquer, pour un investissement qui n'est pas majeur.
Mme Christine Lavarde, présidente. - Vous avez développé ce logiciel en interne, vous ne l'avez pas acheté ?
M. Jean-Raymond Hugonet. - Je vais vous le dire tout net, le développement a été fait à titre gracieux pour la commune et a montré que cela fonctionnait. En tant qu'Auvergnat d'origine, j'ai rapidement compris le gain qu'il y avait.
Je parle de gain, mais je ne sais pas ce que font vos communes en termes de fluide. C'est très important. Nous nous apercevons que la confiance n'exclut pas le contrôle. Quand nous nous apercevons qu'on se fait gruger depuis des lustres, cela donne, dans la relation avec le partenaire, un autre résultat.
Cela fonctionne avec des capteurs. Par exemple, une chasse d'eau qui fuit tout le week-end dans un groupe scolaire, cela peut paraître anodin, mais à la fin de l'année, c'est considérable.
Nous essayons maintenant de développer cette approche dans d'autres secteurs. Je pense que l'intérêt, en fonction de la taille de la commune, c'est d'essayer de cibler des secteurs et puis de s'en emparer.
Je partage un échec : les parkings. Une grande ville en France a d'ailleurs dépensé des millions d'euros à essayer de résoudre son problème de parking, sans succès.
On peut avoir des échecs, mais il faut être prudent. Il y a des solutions aujourd'hui qui fonctionnent et qui font économiser de l'argent, très clairement.
M. Khalifé Khalifé. - Je suis originaire de Metz, ville qui a été connectée il y a très longtemps, avec une phase d'euphorie au début. Il y a eu de nombreuses initiatives, comme les signatures électroniques, tout ce qui est partagé, la vidéo, la verbalisation, etc. J'avais été contacté par une société spécialisée dans l'énergie qui voulait élaborer un schéma de tout ce qui se trouve dans les rues de la commune. Nos ingénieurs les ont contactés. Je trouve intéressant de prendre en compte ce sujet dans vos réflexions.
D'autres questions sont aussi posées, notamment sur l'intelligence artificielle en lien avec la vidéosurveillance et la sécurité. Est-ce que vous l'avez délibérément occulté ou est-ce que, pour vous, c'est un autre domaine ?
M. Jean-Raymond Hugonet. - Vidéoprotection.
M. Khalifé Khalifé. - Oui, vidéoprotection.
M. Louis-Jean de Nicolaÿ. - Je suis implanté dans un territoire rural où la commune la plus peuplée compte 3 900 habitants et la plus petite 120 habitants. La problématique de l'intelligence artificielle les dépasse complètement.
Il est nécessaire de mettre en place une coordination entre tous les acteurs de la vie publique territoriale. Ainsi, une commune qui sollicite des subventions pour un dossier spécifique doit savoir si c'est la région, le département ou l'État qui est compétent. Actuellement, il est extrêmement difficile d'obtenir toutes les informations en même temps auprès d'un même organisme.
Il serait utile d'avoir un vade-mecum pour une commune rurale sur la demande d'intelligence artificielle. Les communes rurales ne savent pas par où commencer, qu'il s'agisse du réseau d'eau ou des factures et consommations d'électricité. Elles ont peur que cela leur coûte des fortunes, alors qu'elles disposent de budgets de 200, 300, 400 000 euros par an. Les communautés de communes, qui rassemblent les petites communes, peuvent également s'y intéresser. Il faudra lever le doute sur les compétences à terme.
M. Stéphane Sautarel. - Merci pour ce rapport qui soulève beaucoup de questions, plus qu'il n'apporte de réponses, ce qui est tout à fait légitime compte tenu des pistes explorées. À vous écouter, il me semble qu'il y a des sujets qui méritent encore des précisions sur le périmètre.
Lorsque l'on parle d'optimisation de smart city ou de services, il y a des choses qui existent déjà. Est-ce que l'on bascule dans l'intelligence artificielle ? Est-ce que c'est une révolution ou un prolongement ?
Je me demande, par exemple, s'il n'y a pas déjà des systèmes d'automatisation existants pour les réseaux d'eau, la gestion de la voirie ou de la mobilité. Est-ce qu'il y a un prolongement naturel pour passer à l'intelligence artificielle ?
J'ai des questions sur l'organisation territoriale des collectivités, la finance, le juridique, les ressources humaines, la commande publique. Est-ce que là, il y a vraiment des choses qui sont en train de bouger ?
S'agit-il d'un système ouvert ou fermé ? Il y a peut-être quelques grandes collectivités qui ont déjà mis des choses en place, mais il y en a beaucoup qui sont plutôt frileuses et qui cherchent à maîtriser les choses ou à fermer les choses avec la peur de la cybersécurité.
Ma conviction, c'est que si l'on n'est pas dans un système ouvert, on ne peut pas réellement entrer dans ce nouveau système. Et donc, ce sont plutôt des initiatives individuelles privées qui vont bricoler quelque chose, arriver avec leurs petits outils et qui vont à la fois créer des écarts dans l'organisation même d'une collectivité et aussi présenter des risques.
Je m'interroge davantage sur la question de la formation et de l'adaptation des métiers. Je me demande s'il ne faut pas commencer par la formation, notamment à un nouveau mode de management, avant de parler de la maîtrise des outils eux-mêmes.
M. Pierre Barros. - Je remercie la délégation à la prospective pour ce rapport, car nous sommes en train de décrire peut-être un peu l'avenir. Cependant, je pense que nous n'y sommes pas encore. Il faudra certainement plusieurs années pour y arriver. Je tiens également à remercier les collectivités qui s'engagent dans ce genre de pratiques, car elles font preuve de courage.
Beaucoup de technologies sont arrivées depuis 30 ans, je me souviens de l'informatisation, la modélisation, la 3D, le BIM (modélisation des informations du bâtiment). Cela fait des années qu'on en parle, mais cela n'est pas encore tout à fait opérationnel. Moi, ce qui m'intéresse, c'est que tout cela fonctionne grâce à une informatisation qui n'est pas encore homogène sur le territoire.
J'ai développé des projets dans une intercommunalité à Roissy, qui dispose de moyens importants, notamment un service informatique et un syndicat, Val d'Oise Numérique, très à la pointe sur la question des data centers et de la smart city. Nous sommes attentifs à ces questions et nous avons envie d'y aller.
J'ai également accompagné des collectivités où l'informatique était très limitée, avec seulement quelques ordinateurs branchés sur la même multiprise que la machine à café et le micro-ondes... Cela montre la fragilité du système dans lequel on vit et nous interroge.
Je pense qu'il se passera du temps avant que tout cela soit réellement mis en place. Cependant, heureusement, cela va toujours plus vite que ce qu'on pense. La question du personnel qui sera remplacé par une intelligence artificielle est cruciale. Si cela se fait en deux ans, cela sera terrible. Si cela se fait en 20 ans, ce sera autre chose. La question du temps est un vrai sujet qui permettra de modifier les métiers et de donner le temps aux organisations de s'adapter.
Aujourd'hui, il y a une certaine urgence parce que l'on en parle beaucoup et il faut prendre les choses à bras le corps. C'est ce que fait la délégation à la prospective. Des débats nationaux et internationaux sont en cours, mais cela prendra du temps. Il est important de prendre le temps, car on ne peut pas changer les pratiques du jour au lendemain. La mise en place des infrastructures, des puissances de calcul et des capacités de stockage nécessitera des moyens.
Je terminerai par une remarque qui m'a fait sourire : vous avez projeté une petite image où l'on voit une IA capable de recenser les trous, les fissures dans les routes. Dans ma ville de 10 000 habitants, j'ai 10 000 personnes qui me signalent les dégradations routières, les lumières qui ne fonctionnent pas, les écoles où l'éclairage reste ouvert la nuit. Si c'est remplacé par une IA, pourquoi pas, mais le boulot est déjà fait.
Mme Christine Lavarde, présidente. - Je vais laisser Jean-Raymond Hugonet compléter son propos. Les rapporteurs apporteront ensuite quelques précisions. Je vous invite néanmoins à rester jusqu'au bout car nous allons évoquer notre prochain cycle de travail qui débutera la semaine prochaine.
M. Bernard Fialaire. - Je voudrais apporter quelques observations, en revenant sur le sujet de la déshumanisation. Dans notre rapport sur l'intelligence artificielle et l'éducation, nous avons constaté qu'il existe des IA capables d'accompagner et qui sont plus bienveillantes que les enseignants. Cela signifie qu'il est possible d'avoir des interrogations à poser à une administration et d'avoir une IA plus bienveillante, sans préjudice pour l'usager.
Je me pose la question de la délégation de services publics. Les petites communes n'ont pas toujours une équipe de spécialistes de l'IA pour installer ces systèmes. Lorsque des groupes comme Vinci proposeront leurs services, ils auront les moyens de le faire. Cependant, cela créera une compétition entre le service public et les entreprises privées qui offriront ces services, avec des propositions de plus en plus alléchantes et bien présentées, ce qui nous tiendra sous leur emprise.
M. Jean-Raymond Hugonet. - Je veux rebondir sur ce qui a été dit. Une chose est claire concernant le temps : si l'on veut vraiment mettre en place un système, cela prendra du temps. Si l'on essaie d'embrasser tout, c'est impossible pour les communes, quelle que soit leur taille. On se fera imposer des solutions qui nous contraindront.
Joël de Rosnay parle de cela. Il dit qu'il ne faut pas employer l'expression « intelligence artificielle », mais plutôt « intelligence augmentée ». Il s'agit de lui laisser des tâches que nous n'aurons plus à faire et de nous concentrer sur le bon sens.
Je vous parlais des économies d'énergie. Aucune commune n'est capable de maîtriser tous les compteurs. Il suffit de demander à son service financier des factures pour s'en apercevoir. Cela a à voir avec du bon sens. Quand on parle d'un système, d'une stratégie, cela prendra du temps. Mais sur des points précis, on peut aller vite, grâce au bon sens.
M. Christian Redon-Sarrazy. - Je salue à mon tour ce travail éclairant. Mon propos prolonge en quelque sorte les propos de Jean-Raymond Hugonet. On parle beaucoup d'algorithmes hyper évolués, mais en réalité, on ne fait que qualifier et interpréter les données.
En revanche, on parle beaucoup des gains que cela peut apporter aux agents dans les collectivités. Ma question est : avez-vous pu, lors de vos auditions, recueillir la position des élus et leur appropriation de cet outil, notamment dans sa dimension prospective ? Les équipes des agents territoriaux sont là pour gérer et offrir une assistance aux élus, l'élu étant plutôt impliqué dans des domaines tels que l'urbanisme.
Les élus sont-ils entrés dans une phase où l'intelligence artificielle peut les aider à faire des projections, à aller au-delà du simple contrôle de la conformité des permis, pour imaginer la ville de demain, la smart city ? Sommes-nous dans cette phase-là ou sommes-nous encore dans la gestion ?
M. Éric Dumoulin. - Je rejoins un peu ce qui a été dit. Cela dépend des territoires et des maires. Il faut être clair, il y a des maires qui sont naturellement en projection, d'autres moins pour plein de raisons. Cela dépend aussi des capacités financières qui sont très inégales.
Je suis écrivain et j'ai joué avec ChatGPT. Sur des thématiques générales, il n'y a pas de sujet, le modèle peut sortir un texte correct bien qu'assez plat, mais dès que l'on rentre dans le fine-tuning, c'est catastrophique. C'est exactement la même chose pour les collectivités. C'est un outil d'aide extraordinaire qui permettra à beaucoup d'agents de se recentrer sur un coeur de métier plus intéressant et de mettre un terme à des tâches répétitives. Il faudra une maîtrise technique de l'outil et du métier. J'ai mis en place des capteurs et des bâtiments intelligents, mais sans techniciens pour maîtriser ces outils, cela ne sert à rien.
L'erreur dans la doxa actuelle autour de l'intelligence artificielle est de penser que les machines vont tout faire automatiquement. C'est le pire des dangers. Il faut que l'homme garde une expertise et un savoir-faire de haut niveau pour optimiser l'intelligence artificielle et éviter qu'elle ne prenne le dessus et lui fasse faire des erreurs d'analyse ou de décision.
Cela vaut, par exemple, pour l'urbanisme. L'intelligence artificielle va faciliter la prise de décision, mais la décision finale doit rester entre les mains de l'élu ou des services, qui doivent avoir un niveau d'expertise suffisant pour identifier les orientations non souhaitées.
M. Christian Redon-Sarrazy. - Je ferai un parallèle avec les mathématiques et Excel. Excel est un outil très performant, mais si l'on n'a pas de compétences mathématiques, on n'en utilise que 5 %. Nous sommes un peu dans cette situation.
Mme Amel Gacquerre, rapporteure. - Je vais rebondir sur une remarque selon laquelle ce rapport poserait plus de questions qu'il n'apporte de réponses. C'est vrai, car nous sommes dans une période où l'intelligence artificielle se développe. On y est déjà complètement, même si on n'y est pas encore pleinement. J'aime rappeler une statistique qui m'avait marquée pendant les auditions : en moyenne, nous utilisons quotidiennement 30 à 40 applications qui utilisent de l'intelligence artificielle. Nous sommes en train de vivre cette évolution.
J'ai entendu quelques observations avec lesquelles je suis complètement d'accord, que nous avons voulu intégrer dans ce rapport et qu'il va falloir davantage évoquer. Les collectivités, les élus sont soit déjà engagés, soit ils ont envie d'y aller, mais ils ne savent pas comment faire. Ils ont besoin d'être guidés, d'être accompagnés.
Le sujet de la compétence revient souvent. Ce n'est pas seulement qu'on ne la trouve pas, c'est que toutes les collectivités ne sont pas égales dans leur capacité à recruter ces compétences. Je donne l'exemple de mon territoire, dans le Pas-de-Calais. On veut recruter des compétences, mais personne ne veut venir travailler chez nous parce qu'on ne les paye pas assez.
Il y a deux choses qui manquent. Premièrement, il faudra former davantage et rémunérer différemment les compétences dans les collectivités, car nous avons du mal à attirer ces compétences-là, qui sont mieux payées dans les entreprises privées. Deuxièmement, il faut un management particulier, un management des ressources humaines différent. Nous ne l'exprimons peut-être pas clairement dans ce rapport, mais je pense qu'il faut raisonner en termes de GPEC, de gestion prévisionnelle des emplois et des compétences. C'est un vrai sujet, car il faut former tous ceux qui travaillent sur les systèmes d'information mais qui ne travaillent pas encore sur l'IA, pour pouvoir maîtriser et dialoguer avec les acteurs privés. Il va falloir un management différent et un management de la compétence différent.
Vous avez posé la question de l'open data. Nous avons dit à quel point la donnée est au coeur de tout cela. La première partie de notre rapport porte sur la façon dont les collectivités peuvent produire, utiliser et gérer leurs données. Même les petites collectivités rurales produisent de la donnée, mais elles ne savent pas quoi en faire et n'ont pas conscience de l'importance de cette donnée. La question de l'open data est posée. La France se place aujourd'hui en tête du classement européen de l'ouverture des données publiques, ce qui est intéressant. Cela signifie qu'on a de la donnée, mais elle est surtout ouverte pour les acteurs publics. Les acteurs privés savent que la donnée est de la richesse et du pouvoir, et ils viennent vendre des solutions aux collectivités. Nous sommes contents, nous achetons, mais nous donnons de la donnée à ces acteurs privés.
Il y a une réflexion et une formation des collectivités et des acteurs publics à mener sur la valeur de la donnée et sa gestion. Faut-il aller vers plus d'open data ? Oui, mais est-ce réaliste ? Je n'ai pas la réponse aujourd'hui. Je dis simplement qu'il faut aller vers plus d'open data, mais je ne suis pas sûre que l'on réussira à y aller totalement, surtout en voyant comment les opérateurs privés utilisent ou gèrent ces données.
La déshumanisation n'est pas un frein pour moi. L'utilisation de certains outils peut permettre de mieux positionner nos agents sur leur vraie valeur ajoutée, ce qui a un côté humain. Dans ma commune de 25 000 habitants, nous avons tenté de mettre en place la smart city il y a une dizaine d'années. C'est un travail qui ne se fait pas de façon complète, mais nous avons toujours posé comme postulat de base de garder le contact humain et téléphonique pour les vraies valeurs ajoutées. La déshumanisation n'est pas un problème si on intègre bien la relation humaine, qu'elle soit physique ou téléphonique. Je trouve que cette peur n'est pas réelle et cela peut être démontré à travers ce qui se passe dans certaines collectivités.
M. Jean-Jacques Michau, rapporteur. - Je vais ajouter deux ou trois choses à mon tour. L'intelligence artificielle n'est pas de l'intelligence, mais une gestion statistique très fine. C'est pourquoi le portage politique sera toujours extrêmement important. L'IA peut aider, par exemple, à faire des aménagements urbains avec les jumeaux numériques, mais c'est à l'humain de décider de l'aménagement urbain et du projet politique pour la ville.
La question des données ouvertes est moins problématique que la privatisation des données. Le risque est que certaines personnes s'approprient les données, les organisent et les revendent. Pour la gestion des réseaux, nous sommes dans le prolongement de systèmes existants, mais la puissance de gestion des données permet d'aller plus vite et plus finement.
En tant que président de l'association des maires d'un département, je tiens à mentionner que certaines entreprises aident les communes dans l'intelligence artificielle de manière désintéressée. Ces entreprises, dont les responsables sont souvent issus des collectivités locales, inventent des solutions pour les communes, en tenant compte du portage politique inégal et du coût qui peut être élevé.
Mme Christine Lavarde, présidente. - Approuvez-vous ce rapport ?
La délégation adopte, à l'unanimité, le rapport et en autorise la publication.
Mme Christine Lavarde, présidente. - Les échanges que nous avons eus ce matin ont déjà permis d'aborder certaines thématiques du débat de la semaine prochaine qui sera consacré à l'IA et l'environnement.
Je suis vraiment ravie du travail mené depuis 18 mois. Nous avons réussi à lancer des travaux qui ont un peu de continuité. Nous avons également réussi à travailler avec quasiment toutes les instances du Sénat, ce qui a permis d'éviter les auditions redondantes. Cela donne un peu plus de sérieux à la maison Sénat, c'est-à-dire qu'on sait se parler entre nous. Nous avons aussi réussi à faire des auditions qui ont eu de grands succès dans la vidéothèque du Sénat.
Pour le nouveau thème, lorsqu'on avait envisagé de travailler sur l'intelligence artificielle, nous avions aussi évoqué l'idée des valeurs. Quelles seront les valeurs en 2070 ? Quatre axes avaient émergé : le futur de la valeur économique, le futur de la valeur sociale, le futur de notre rapport à l'autorité et à la vérité, et le futur de notre modèle démocratique.
Le futur de la valeur économique : que signifiera la prospérité économique ? Comment pourra-t-on la mesurer ? Comment pourra-t-on prendre en compte le bien-être individuel, collectif, les externalités environnementales, l'intérêt des générations futures ?
Le futur de la valeur sociale : quel avenir pour notre modèle social ? Quelle solidarité demain ? Comment répondra-t-on aux besoins de proximité ? Quel avenir pour l'individualisme ? Comment préserver la santé mentale de nos concitoyens dans un contexte de crises multiples ?
Le futur de notre rapport à l'autorité et à la vérité : comment évaluer le rapport à l'autorité, au respect, à la vérité ? Comment recréer de la confiance dans les institutions, lutter contre la désinformation ?
Le futur de notre modèle démocratique. Lorsque j'évoque cela, je pense immédiatement aux échanges que nous avons eus hier soir à la fin de notre dîner, qui ont porté sur les risques de l'intelligence artificielle et son impact sur notre modèle démocratique. Quel avenir pour la démocratie représentative, les partis, l'engagement politique et citoyen ? Pourra-t-on recourir à des systèmes de démocratie directe en temps réel ? Quels usages et quelles places pour les outils numériques dans la vie des citoyens ?
Si vous êtes tous d'accord pour continuer à travailler sur cette série de rapports thématiques, nous allons vous envoyer un courrier de synthèse ainsi qu'à l'ensemble des collègues membres de la délégation pour que vous puissiez nous faire part de vos observations et, le cas échéant, nous indiquer sur quels thèmes vous souhaitez travailler. Comme nous l'avons vu avec l'intelligence artificielle, où quasiment un tiers de la délégation s'est impliqué dans l'écriture d'un rapport, cela donne du sens à nos travaux qu'il y ait une forte mobilisation au sein de la délégation. Nous désignerons les rapporteurs la semaine prochaine.
Si vous avez des idées d'auditions ou de déplacements qui pourraient être faits sur ces nouvelles thématiques, n'hésitez pas à nous le signaler.
D'ici là, nous allons essayer d'avoir un temps de présentation, qui pourrait même être ouvert à l'ensemble des sénateurs, des technologies françaises d'IA sous forme de démonstrations. Cela pourrait être aussi l'occasion pour nous de partager avec l'ensemble de nos collègues les réflexions qui émanent de nos cinq rapports sur l'IA.
Je vous remercie.
La réunion est close à 9 h 50.