L'intelligence artificielle va-t-elle révolutionner l'univers des collectivités territoriales ?

- ANNEXE 1 : TABLE RONDE PORTANT SUR LES PREMIÈRES APPLICATIONS DE L'INTELLIGENCE ARTIFICIELLE DANS L'UNIVERS DES COLLECTIVITÉS TERRITORIALES

15 février 2024 - Sceaux

Mme Françoise Gatel, présidente. - Pour nous aider à cheminer dans nos réflexions, nous comptons sur les lumières de nos participants, sur ce sujet de grand intérêt.

Je remercie de leur présence :

- Monsieur Khaled Belbachir, directeur des relations citoyennes de la ville de Plaisir, qui a mis en place un nouvel accueil usager en utilisant l'intelligence artificielle ;

- Monsieur Thomas Guenoux, fondateur de la société Yelda, qui a accompagné la ville de Plaisir dans sa démarche ;

- Monsieur Johan Catouilliard, directeur général adjoint sécurité civile, patrimoine bâti, systèmes d'information et moyens matériels de la ville de Noisy-le-Grand ;

- Monsieur Jean-Baptiste Roffini, cofondateur de la société Delibia, qui a pour projet de mettre l'intelligence artificielle au service des collectivités en contribuant à la sécurité juridique de leurs actes et en les aidant face à la lourdeur administrative ;

- Monsieur Hubert Castelnau, responsable des relations publiques de Delibia ;

- Monsieur Guillaume Gormand, chargé de mission prévention et sécurité pour Grenoble-Alpes Métropole, et auteur d'une thèse sur l'évaluation de la vidéosurveillance au sein des politiques publiques de prévention de la délinquance.

Je donne la parole à Monsieur Khaled Belbachir.

M. Khaled Belbachir, Directeur des relations citoyennes de la Ville de Plaisir. -  Je remercie Monsieur le Maire de Sceaux de nous accueillir.

Je suis directeur des relations citoyennes de la Ville de Plaisir depuis trois ans. Cette ville des Yvelines, de 32 000 habitants, souhaite proposer un accueil de qualité à ses usagers. Nous avons identifié la forte problématique que représente l'accueil téléphonique. En effet, l'accueil physique de nos collectivités territoriales est plutôt satisfaisant. Les difficultés rencontrées avec le téléphone ont des raisons diverses : flux d'appels en continu, moyens humains insuffisants au profit de l'accueil physique.

Nous avons ainsi constaté un taux de perte d'environ 60 % à 65 % sur les appels téléphoniques. Après avoir essayé diverses solutions, nous nous sommes tournés vers une solution plus innovante avec la société Yelda. Il s'agissait de mettre en place un robot qui prendrait les appels en premier niveau de réponse. Il n'était pas envisagé de remplacer nos standardistes - d'ailleurs, leur effectif est aujourd'hui maintenu - mais de les décharger des appels sans valeur
ajoutée : par exemple, les appels pour s'enquérir des horaires d'ouverture de la mairie, des documents requis pour un renouvellement de pièce d'identité, etc. Les collectivités rencontrent d'ailleurs de sérieuses problématiques de gestion de rendez-vous relatifs aux papiers d'identité ; c'est pourquoi nous avons concentré notre intervention sur cette thématique.

Nous avons par conséquent souhaité qualifier les demandes et apporter par le robot des réponses satisfaisantes. Pour ce faire, nous avons impliqué les habitants dès le commencement de nos travaux, sous la forme d'assemblées citoyennes. Ils ont choisi le nom du robot, Optimus ; ils ont contribué à entraîner le robot.

Le robot est en place depuis septembre 2022. Aujourd'hui, le taux de perte a chuté à 8 %. En réalité, le traitement des appels se répartit à parts égales entre le robot et les standardistes, qui le considèrent désormais comme un assistant. En outre, les appels traités par les standardistes prennent désormais plus de temps (de 1,5 à 1,8 fois plus longs). Cela signifie que les appels les plus rapides sont résolus par le robot. Il est également possible que les standardistes prennent désormais davantage de temps pour dialoguer avec leurs interlocuteurs, et veillent toujours à s'assurer que les usagers n'ont pas d'autres questionnements avant de raccrocher. En ce sens, l'emploi de ce robot est une véritable réussite.

Toutefois, le robot n'a pas été adopté par toute la population. Selon nos enquêtes, l'intelligence artificielle fait aujourd'hui peur même si les usagers obtiennent la réponse souhaitée. Il convient par conséquent de mener un travail de réassurance de la population, en lui expliquant que le robot n'a pas pour vocation de remplacer les agents mais de les aider.

Quoi qu'il en soit, le bilan de ces deux dernières années est très positif.

M. Thomas Guenoux, fondateur de la société Yelda. - Je souhaite aborder la manière dont l'intelligence artificielle transforme la relation entre les services et l'usager au sein des collectivités.

Depuis un an et demi et la forte poussée médiatique de ChatGPT, l'attention se focalise sur certaines techniques de l'intelligence artificielle, en particulier la technique conversationnelle. C'est pourquoi je vous propose que nous nous intéressions à la production de texte dans la relation avec l'usager. En effet, il existe en France un vrai sujet concernant la relation avec l'usager à distance. Ce sujet a été ravivé par la période de crise sanitaire qui a prouvé que le standard téléphonique avait encore de beaux jours devant lui, l'impossibilité de se déplacer faisant croître le nombre d'appels.

Chez Yelda, nous avons eu l'idée d'appliquer l'intelligence artificielle conversationnelle aux échanges téléphoniques. En effet, le chatbot développé depuis un certain temps sur les sites Internet a résolu une partie des problématiques sur les canaux numériques, alors que les difficultés subsistent pour le téléphone. Ce problème est partagé par la Poste, l'URSSAF ou l'Imprimerie nationale. Grâce à l'intelligence artificielle, nous avons pu automatiser une partie des questions posées par les usagers. Nous ne sommes plus à l'ère du répondeur qui nous demande de sélectionner un chiffre sur le clavier de notre téléphone ; nous répondons à de réelles questions en
situation. Ainsi, nous avons mis en place une première version avec la ville de Plaisir et travaillons désormais sur d'autres itérations plus évoluées grâce aux techniques d'intelligence artificielle générative qui sont encore plus avancées.

Au travers de cette application, nous avons identifié des opportunités et des défauts.

Parmi les opportunités, notons la totale disponibilité de ce robot, qui peut répondre à toute heure du jour et de la nuit, y compris le week-end. Il permet de gagner en rapidité et peut apporter tous les détails d'une démarche. Il peut analyser les sentiments et en fin de conversation le degré de satisfaction, en balayant toutes les conversations d'une période donnée de manière moins fastidieuse que ne le ferait un humain. Le robot peut également opérer un tri très intelligent des appels en fonction des demandes, évitant ainsi les « transferts sauvages ».

En revanche, il existe des défis : l'adaptation des usages, le respect de la vie privée, la souveraineté des données et les biais de l'intelligence
artificielle. Enfin, des défis techniques peuvent rendre l'entreprise complexe et coûteuse. C'est pourquoi nous avons décidé de proposer une solution simple et accessible pour les collectivités territoriales. Nous nous positionnons notamment auprès des villes, de l'Assemblée nationale ou encore de la Caisse nationale d'assurance vieillesse. Nous pensons que l'intelligence artificielle peut jouer un rôle très positif sur tous les sujets qui touchent à la relation avec l'usager.

Mme Françoise Gatel, présidente. - Merci. Au Sénat, nous cultivons la culture de l'évaluation ; c'est pourquoi nous nous proposons de tester votre solution dès maintenant.

Mme Pascale Gruny, rapporteur. - Pour ce test, je vous fais part de ma requête : mon voisin a déposé ses ordures devant mon domicile, ce qui me met très en colère.

Thomas Guenoux appelle à l'aide de son smartphone la mairie de Plaisir. Sa conversation téléphonique est diffusée dans la salle.

Optimus. - Pouvez-vous m'indiquer en quelques mots ou une phrase courte le motif de votre appel ?

M. Thomas Guenoux. - Mon voisin a déposé des déchets devant chez moi. C'est un dépôt sauvage. Je voudrais savoir ce que je dois faire, s'il vous
plaît. Je ne suis pas du tout content.

Optimus. - Vous pouvez déposer tout signalement ou demande concernant la gestion des déchets sur le site Internet de l'agglomération. Vous pouvez également être mis en relation avec un agent qui enregistrera votre demande si vous ne disposez pas d'un accès au site Internet.

Puis-je vous aider pour autre chose ?

M. Thomas Guenoux. - Je n'ai pas Internet.

Optimus. - Si vous rencontrez des difficultés pour effectuer des démarches en ligne et que vous avez besoin d'accompagnement, demandez à être mis en relation avec un agent.

Avez-vous d'autres questions ?

M. Thomas Guenoux. - Oui, je voudrais refaire mon passeport, s'il vous plaît.

Optimus. - Dans un premier temps, pouvez-vous m'indiquer pourquoi vous souhaitez refaire votre titre d'identité ? L'ancien titre est-il perdu, volé ou expiré ? Ou s'agit-il d'une première demande ?

M. Thomas Guenoux. - Il est expiré.

Optimus. - Pour refaire votre passeport, vous devez prendre directement rendez-vous sur l'espace citoyen de la ville. Vous pouvez consulter notre agenda et retenir un créneau à votre convenance suivant les disponibilités. Je viens de vous envoyer un SMS avec le lien vers la page en question.

Thomas Guenoux met fin à l'appel.

M. Thomas Guenoux. - J'ai effectivement reçu un SMS avec le lien vers l'espace citoyen.

M. Laurent Burgoa. - Qu'en est-il de la question du dépôt de déchets ?

M. Thomas Guenoux. - Pour cette question, Optimus s'est défaussé sur la communauté d'agglomération car ce sujet ne relève pas des prérogatives de la ville. Les options mises en place dépendent du mode de fonctionnement de cette collectivité : site Internet, accueil téléphonique, etc. Le robot n'invente rien ; il a été entraîné pour apporter la réponse qui correspond au service requis.

Dans l'exemple retenu, nous pourrions imaginer la création d'un ticket dans l'espace de réclamation de la communauté d'agglomération. Cela est techniquement possible.

M. Khaled Belbachir. - Nous avons fait un choix à la mairie de Plaisir. Les déchets ne sont pas de notre compétence ; c'est pourquoi nous nous défaussons dans un premier temps. Pour autant, nous proposons dans un deuxième temps un échange avec un agent, car nous avons considéré qu'il ne revenait pas au robot de traiter une telle question. En effet, pour les traitements par le robot, nous avons mis la priorité sur les titres d'identité ou les problématiques scolaires.

La suite logique d'une conversation avec une personne ne disposant pas d'Internet consiste en le transfert de l'appel vers notre standard. Le robot constitue un premier filtre.

Il convient de considérer qu'à l'heure où nous échangeons, 9 heures 30, les services de la mairie sont encore fermés. C'est pourquoi l'appel ne peut pas être transféré automatiquement.

M. Thomas Guenoux. - L'objectif d'un tel agent est de faire de la pédagogie et d'inciter les administrés à se mettre en relation avec les espaces citoyens en ligne, que les mairies investissent pour de nombreuses démarches. Pour ceux qui ne le peuvent pas ou ne le souhaitent pas, nous donnons à tout moment la possibilité de parler à un agent.

Si l'appel est adressé depuis un téléphone fixe, l'envoi de SMS est impossible. Le dispositif détecte cette situation et invite l'usager à se rendre sur le site. Les personnes concernées par une telle situation constituent de plus en plus une minorité relativement restreinte.

Mme Françoise Gatel, présidente. - Merci de vous être prêté à cet exercice qui n'était pas préparé.

Je passe désormais la parole à Monsieur Catouilliard. Votre intervention nous intéresse particulièrement car notre délégation s'intéresse à la cybersécurité et a pu constater que dans bon nombre de nos intercommunalités, la fonction sécurité informatique est peu portée politiquement.

M. Johan Catouilliard, Directeur général adjoint sécurité civile, patrimoine bâti, systèmes d'information et moyens matériels de la ville de Noisy-le-Grand. - Mon intervention est plutôt orientée sur les choix de l'intelligence artificielle à Noisy-le-Grand. Pour autant, je répondrai volontiers à vos questions en matière de cybersécurité.

Noisy-le-Grand, qui compte 60 000 habitants, est la ville-porte de la ville nouvelle de Marne-la-Vallée. Cette ville connaît une forte transformation. En effet, ce pôle tertiaire important des années 1980 et 1990 peine aujourd'hui à conserver sa position de leader. C'est pourquoi nous souhaitons la redynamiser par une approche multicanal. Nous nous adressons tant à l'administration, pour améliorer sa qualité de service, qu'à la population pour lui offrir de nouveaux services ; mais également au tissu économique pour apporter un regain d'attractivité au pôle tertiaire.

Ainsi, Noisy-le-Grand s'est inscrite dans de nombreuses démarches, dont le projet Récital pour lequel nous étions lauréats du Démonstrateur d'intelligence artificielle des territoires (DIAT) porté par le ministère de l'Écologie.

Le projet Récital se réfère au décret Tertiaire et donne la mesure de l'impact, pour la ville, de l'investissement requis par ce décret. Ce dernier demande en effet la mise à niveau énergétique de l'ensemble du patrimoine des acteurs publics et privés. S'agissant du secteur public, nous avons audité la totalité de notre patrimoine, soit 220 000 mètres carrés. Les diagnostics techniques ont conclu à un investissement de 80 millions d'euros pour répondre à l'objectif d'une diminution de 40 % de consommation énergétique. Ce montant correspond à 40 ans de capacité d'investissement sur la rénovation thermique et énergétique. Ni les capacités de la ville ni les délais imposés par le décret ne sont compatibles avec un tel niveau d'investissement. C'est pourquoi nous avons décidé de mener autrement notre réflexion.

Le premier constat est que le diagnostic énergétique ne prend en compte que les aspects techniques sans inclure les usages, dont l'évolution peut pourtant apporter un véritable gain. Or il est complexe d'infléchir les usages sur notre patrimoine composé à 50 % d'écoles qui ne sont pas occupées par des agents municipaux mais mises à disposition.

Dans ce contexte, le projet Récital a deux objectifs :

- d'une part, il nous faut comprendre les comportements réels des utilisateurs, afin de réduire les consommations excessives. Par souci de sobriété, nous avons recours à l'intelligence artificielle. En effet, elle nous permet d'instrumenter 90 bâtiments, les plus importants consommateurs d'énergie, pour définir des lois d'usage appliquées aux 200 bâtiments de notre patrimoine. De manière réaliste, nous espérons atteindre en deux ans un gain de 20 % ;

- d'autre part, nous souhaitons réinterroger les 80 millions d'euros d'investissement identifiés par les diagnostics techniques, pour prioriser les investissements qui apportent réellement les meilleurs gains. Ainsi, nous réduirons le budget d'investissement nécessaire à un montant plus raisonnable de 20 à 30 millions d'euros à l'horizon 2030. Ce deuxième sujet n'aurait pas pu être traité sans intelligence artificielle, car le nombre de combinaisons possibles - sur la base de cinq scénarios par bâtiment - est trop grand pour être exploré en une vie. En outre, la contrainte budgétaire s'impose : les dépenses doivent être financièrement supportables par la ville. Il convient également de bien cibler les objectifs de réduction de consommation énergétique et d'émission de CO2. Enfin, les usages réels des bâtiments doivent être intégrés à la réflexion.

Ce travail a abouti à un appel à projets. Le lauréat désigné à la fin de l'été 2023 est un groupement de prestataires privés, Datanumia, Citégestion, Efficacity et Eridanis. Leurs premières réponses seront apportées durant le premier semestre 2024, pour de premières actions durant l'année 2024. Une économie d'énergie de 20 % est prévue pour 2026, date de renouvellement d'un contrat-cadre de gestion d'exploitation du parc de chaufferie. Ce contrat sera alors transformé en marché global de performance énergétique, sur la base des recommandations issues de Récital.

Voici par ailleurs une liste d'actions retenues par la ville de Noisy-le-Grand et qui mobilisent l'intelligence artificielle :

- le traitement des corbeilles de rue, pour optimiser le travail des agents en vue d'une augmentation du niveau de satisfaction des habitants ;

- une meilleure prospective démographique pour mieux appréhender le besoin en équipements publics, au vu du dynamisme de la ville en termes de scolarité, afin d'évaluer au plus juste les investissements dans ce domaine, dans la problématique très particulière des villes-étapes de la région parisienne ;

- l'adaptation des feux tricolores, pour une meilleure régulation des flux ;

- l'amélioration des réponses apportées aux usagers de la ville par le recours à l'intelligence artificielle générative sur les sujets de l'accueil, du PLU et, en interne, les réponses juridiques, en particulier sur la jurisprudence.

L'intelligence artificielle est considérée comme un nouvel outil et n'a pas vocation à remplacer tous les dispositifs en place. C'est pourquoi l'approche par l'intelligence artificielle ne sera pas systématisée mais sera mobilisée sur les sujets pour lesquels elle semble pertinente. Il convient de rester soucieux de la frugalité des usages mobilisant l'intelligence artificielle. En effet, cette dernière peut mobiliser de très nombreuses données et déborder un caractère raisonnable de l'action numérique, reconstituant les émissions de gaz à effet de serre là même où nous souhaitons les réduire.

Par ailleurs, l'intelligence artificielle est un outil nécessaire pour assurer la transition écologique.

Quant au choix des plateformes d'intelligence artificielle utilisées pour les projets, il doit être soucieux de la souveraineté des solutions et de la question des droits adossés aux serveurs choisis. Le cadrage réglementaire européen est à ce sujet relativement contraignant.

Enfin, l'intelligence artificielle a ses propres limites. Elle se nourrit de nos comportements et peut par conséquent générer des réponses fausses. C'est pourquoi l'intelligence artificielle n'est pas positionnée pour l'heure en lien direct avec les usagers ; toute démarche est validée par une intervention des services.

Mme Françoise Gatel, présidente. - Merci Monsieur Catouilliard.

Je cède maintenant la parole aux représentants de la société
Delibia. Votre proposition de service aux collectivités vise à les aider à sortir d'une complexité juridique et d'une lourdeur administrative que nous ne connaissons que trop bien.

M. Jean-Baptiste Roffini, co-fondateur de Delibia. - J'ai travaillé en collectivité territoriale en qualité de chef de projet dans le cadre de plusieurs politiques publiques. J'ai été souvent conduit à consulter ce qui avait été réalisé dans d'autres territoires, pour comparer les pratiques, m'en inspirer ou au contraire m'en différencier, parfois pour lever des doutes techniques, juridiques, stratégiques ou politiques. Mes recherches dans les nombreuses délibérations étaient toujours très fastidieuses. C'est pourquoi nous avons eu l'idée de rassembler ces délibérations sur une seule plateforme et de lui appliquer un moteur de recherche performant avec une intelligence artificielle qui permet aux agents une analyse et une rédaction plus rapides. Nous avons partagé cette idée avec un certain nombre de collectivités rassemblées au sein d'un consortium. Ainsi, leurs agents ont pu tester notre solution rassemblant trois fonctionnalités principales.

En premier lieu, un moteur de recherche peut remonter un ensemble de délibérations en répondant à plusieurs requêtes (en relation avec une politique publique, une association, un type de projet, etc.). La remontée des réponses peut être filtrée (par exemple, selon une typologie de collectivités) pour sélectionner les délibérations les plus pertinentes. Cette sélection conduit parfois les agents à contacter leurs homologues des communes qui ont émis ces délibérations pour recueillir de plus amples informations sur leur cas précis. L'intelligence artificielle est d'ores et déjà convoquée pour générer plusieurs tendances ou enjeux à partir d'une thématique donnée, afin de former une introduction au sujet recherché. La recherche donne alors accès aux délibérations et le cas échéant à ses annexes ; les résultats peuvent alors être affinés selon les intentions de recherche plus particulières, juridiques, techniques ou politiques. Il s'agit là d'une première approche classique qui s'apparente à un moteur de recherche plus pointu qu'un moteur de recherche grand public.

La deuxième approche est basée sur l'intelligence artificielle générative, avec un assistant, nommé Solyne, à qui nous pouvons confier certaines tâches, telle que la recherche d'une information précise. Son lien avec la base de données des délibérations nous permet d'en vérifier la véracité dans les sources mêmes. Il est également possible de l'interroger sur des sujets - par exemple, sur l'utilisation de l'intelligence artificielle dans les politiques publiques de la ville de Montpellier -, sur lesquels il nous apportera une réponse plus ou moins synthétisée. L'avantage est de travailler sur une base de données fermée des documents issus de 4 000 collectivités référencées (totalisant 1 600 000 actes et 600 000 annexes).

La troisième approche issue de l'analyse de l'assistance par les agents eux-mêmes est la mise en place d'outils d'assistance rédactionnelle permettant à toutes les catégories d'agents (A, B ou C) de générer une note sur un sujet donné, tout en citant ses sources. Il est également possible de résumer les différents documents à disposition. Cet outil permet aussi une mise en forme de notes de réunion et de courriels. Le résultat de cet assistant n'étant qu'une ébauche, nous mettons à disposition un éditeur de document pour une meilleure mise en forme ou une reformulation pour faire gagner du temps aux agents au quotidien. Les retours des données d'utilisation peuvent utilement alimenter les débats au sujet de l'intelligence artificielle dans les collectivités territoriales.

Mme Françoise Gatel, présidente. - C'est très impressionnant.

Nous avons voté récemment un texte concernant les secrétaires généraux de mairie, dont le travail parfois ramassé en termes de temps doit pour autant garantir la complexité juridique de certains écrits. Votre outil représente un atout incontestable pour leur nécessaire travail de recherche de délibérations existantes en vue d'une complète sécurité juridique.

Je cède désormais la parole à Monsieur Gormand.

M. Guillaume Gormand, Chargé de mission prévention et sécurité pour Grenoble-Alpes Métropole et auteur d'une thèse sur l'évaluation de la vidéosurveillance au sein des politiques publiques de prévention de la délinquance. - Contrairement aux autres intervenants, je ne suis pas un expert des questions d'intelligence artificielle. En revanche, je travaille dans le champ de la criminologie depuis plus d'une dizaine d'années, d'une part dans un cadre académique et d'autre part dans le cadre professionnel.

J'ai bien noté, Madame la Présidente, l'importance que vous disiez accorder à l'évaluation des politiques publiques, qui est au coeur de mes recherches, même si je me suis concentré sur la criminologie, et plus particulièrement sur la vidéosurveillance. Je partage avec vous l'importance de fonder les politiques publiques sur une évaluation rigoureuse et indépendante, sur le long terme, pour identifier ce qui fonctionne et ce qui ne fonctionne
pas. Cela nous permet de fonder de manière pérenne une politique publique
- notamment en matière de sécurité - et d'identifier la plus-value potentielle de la prise en compte des nouvelles technologies dans cette même politique.

Pour prendre un exemple concret des atouts de l'évaluation, je vais vous relater brièvement l'action menée à Grenoble. En 2021, j'ai été invité à diriger une étude en collaboration avec la gendarmerie nationale sur le sujet spécifique de l'identification de la plus-value de la vidéosurveillance sur les enquêtes judiciaires. Les résultats n'étaient pas aussi élevés que nous aurions pu le souhaiter, car les enquêteurs rencontraient de réelles difficultés à identifier les caméras utiles à leur enquête, à en déterminer le propriétaire et à en apprécier les possibilités de réquisition. Nous avons lancé en 2022 un projet de cartographie des caméras sur le territoire de Grenoble-Alpes Métropole. Nous avons alors créé une plateforme sécurisée, accessible à tous les enquêteurs de police judiciaire par un compte personnel leur permettant de repérer la caméra qui les intéresse et de transmettre au propriétaire une réquisition pour une plage horaire précise, leur faisant gagner un temps précieux de quelques heures à quelques jours de
travail. L'intelligence artificielle n'est jusqu'ici nullement mobilisée. En revanche, une forte ingénierie a été requise pour l'identification du besoin et la création de la solution. Certes, les caméras sont développées depuis trente ans dans nos rues ; et leur technologie a fortement évoluée. Pour autant, aucune ingénierie n'a été développée pour intégrer cet outil dans les pratiques professionnelles de la chaîne de sécurité.

Il est légitime de s'interroger sur la pertinence d'utiliser l'intelligence artificielle en vidéosurveillance. Il existe certes des besoins d'automatisation dans l'exploitation, du fait de tâches complexes ou rébarbatives à mener par un opérateur, telles la recherche d'une personne dans une foule ou l'identification d'accès à des zones non autorisées. Néanmoins, il convient d'être rigoureux quant à l'emploi de l'intelligence artificielle car nous devons au préalable en identifier les biais potentiels. Par exemple, la technologie peut se tromper sur un diagnostic d'absence d'un individu dans un lieu, en se basant sur la reconnaissance faciale ; toute technologie est faillible. Par conséquent, il convient de mesurer l'impact d'un tel biais sur l'organisation des forces de sécurité.

En conclusion, l'exploitation automatisée est possible, mais dans un usage progressif et parcimonieux d'un outil qui peut aider les opérateurs mais ne peut pas les remplacer. Enfin, l'évaluation est nécessaire.

Mme Françoise Gatel, présidente. - Toutes vos interventions suscitent un certain nombre de questions de mes collègues.

Mme Pascale Gruny, rapporteur. - Nous avons eu un débat sur l'intelligence artificielle au Sénat, et ce débat donnait un peu le vertige : nos collègues ont soulevé de nombreuses questions dans des domaines très
divers. Mon premier sentiment a été la peur.

Par la suite, j'ai rédigé un rapport au sein de la commission des affaires européennes sur le véhicule sans chauffeur. La question majeure qui est apparue est celle soulevée par la situation suivante : la voiture roule le long d'un ravin et un enfant traverse la chaussée. Quel est le comportement choisi par la voiture ?

Les possibilités de l'intelligence artificielle sont impressionnantes. Mais cette technologie reste un outil. Nous devons veiller qu'elle ne dépasse pas l'humain et que nous conservions une vigilance humaine.

Dans les différentes propositions que vous nous avez présentées, quelle est la protection requise ? Avez-vous mis en place une assurance particulière ? Comment vous protégez-vous des fake news, des attaques extérieures ?

Pouvez-vous nous donner une idée des coûts associés à une telle technologie, notamment en maintenance ?

Enfin, à ce jour, quelles sont les limites de l'intelligence artificielle ?

Mme Ghislaine Senée, rapporteure. - Ce sujet est passionnant et je vous remercie de me donner la possibilité d'en être co-rapporteure.

Beaucoup de questions se posent. Nous identifions de très nombreux besoins, notamment dans les collectivités locales. J'ai pu moi-même constater les sollicitations dont faisait l'objet l'agent d'accueil d'une petite commune qui laissait son téléphone sonner pour pouvoir avoir le temps de renseigner les personnes se présentant physiquement à lui. Nous comprenons bien dans ces conditions la nécessité d'un tel outil dans la gestion de l'accueil et dans la relation à l'usager. À cet égard, les chiffres avancés par Khaled Belbachir sont éloquents.

J'aurais toutefois quelques interrogations.

Pourquoi vouloir à tout prix humaniser l'outil et ne pas se contenter d'une assistance informatique ? En effet, pour ma part, je ne conçois pas de devoir parler à un agent qui n'est pas humain. En revanche, tout le monde peut comprendre la nécessité d'obtenir une réponse et - si elle s'avère insatisfaisante - de pouvoir parler à une personne.

En outre, quel est le temps requis pour rendre un tel outil opérationnel ?

Par ailleurs, comment évaluer le taux de défiance ? Et comment pouvons-nous agir pour corriger une telle situation ?

Quant à la question de l'évaluation de la politique publique, elle est très importante. Nous devons également penser que nous pourrions être évalués par de tels systèmes, sur la qualité de notre mandat et notre apport aux services publics. Nous devons par conséquent poser des limites pour trouver une forme d'équilibre pour avancer sur le service et l'optimisation, afin d'atteindre nos objectifs avec les seuls moyens alloués. Il est intéressant d'apprécier la multitude des scénarios, sans jamais pouvoir anticiper ce qui fait la force de notre humanité. Par conséquent, à quel moment devons-nous faire évoluer les modèles de décision et d'aléas qui s'opèrent ?

M. Jean-Jacques Michau. - Merci de m'avoir invité à prendre part aux travaux de votre délégation.

La délégation à la prospective travaille depuis quelques semaines sur le vaste sujet de l'intelligence artificielle. Nous aborderons ses relations avec la santé, l'éducation et la proximité. Par conséquent, nous traiterons de ses liens avec les collectivités. C'est pourquoi je suis avec vous ce matin.

En dehors des sujets que nos intervenants ont présentés, quels sont ceux que nous pourrions explorer dans le domaine de l'intelligence artificielle et de la proximité ?

M. Khaled Belbachir. - Je souhaiterais répondre à vos interrogations sur la relation client.

Nos collectivités sont considérées comme les derniers lieux d'accueil accessibles. Nous travaillons sur la question de la défiance. Aujourd'hui, nos enquêtes nous révèlent que 50 % des administrés ne se disent pas totalement satisfaits, ce qui reste un chiffre trop élevé. Nous explorons désormais nos marges de manoeuvre.

S'agissant de l'humanisation du robot, nous veillons à ne pas tromper l'usager. C'est pourquoi le message d'accueil est explicite. En outre, nous avons développé toute une communication autour du lancement de cet outil.

Quant au temps de déploiement, il a été extrêmement rapide. En effet, le travail porte avant tout sur la base de données. Le risque essentiel était celui de perdre des personnes, mais il n'est pas majeur. Le risque de délivrer une réponse fausse n'existe, quant à lui, pratiquement pas, puisque l'outil s'appuie uniquement sur notre base de données fiabilisée. Cette dernière a été constituée par nos soins en trois mois. Par conséquent, le seul risque d'erreur proviendrait de la mauvaise compréhension de la question. C'est pourquoi, après un bilan établi en novembre 2023, nous avons entamé un travail d'évaluation et d'amélioration de l'outil. Nous avons également dû traiter des cas de « fausse route ». En outre, le déploiement d'Optimus a été progressif, d'abord auprès des membres de l'assemblée citoyenne, avant d'être rendu accessible à l'ensemble du public. De même, nous l'avons expérimenté sur des tranches horaires restreintes - d'une heure, puis de deux heures, de trois heures, etc. -, avant une ouverture totale en trois mois.

En conclusion, je dirais que l'expérimentation est la clé de la réussite en intelligence artificielle.

Mme Françoise Gatel, présidente. - J'oserais une remarque personnelle : si nous faisions la loi avec ce souci d'expérimentation préalable, ce serait plus satisfaisant.

M. Thomas Guenoux. - Aujourd'hui, le déploiement de notre solution sur une dizaine de mairies prendrait de six à dix semaines.

Le sujet du ridicule dans la conversation avec un robot me semble relever de la question de génération. Les jeunes n'ont aucun problème avec une telle pratique.

S'agissant des risques présents dans les réponses, j'estime qu'il existe une tendance à surévaluer la qualité de la réponse humaine, alors que les humains sont faillibles. Nos agents virtuels sont paramétrés pour être empathiques et le sont parfois plus que les humains. En effet, ces derniers peuvent ressentir de la fatigue et devenir irascibles ; ce qui n'arrivera jamais à un robot.

Par ailleurs, nous avons pris l'habitude depuis plusieurs années de considérer que nos ordinateurs sont plus forts que nous, dans de nombreux domaines. Cette situation est inédite pour l'humanité. Il est par conséquent normal qu'elle génère de la peur. Pour autant, nous allons vivre avec des ordinateurs dont nous ne comprendrons pas tous les choix. Personnellement, j'ai décidé de vivre avec cela.

Enfin, parmi les autres parties de l'intelligence artificielle à surveiller, je pense que la génération d'images et de vidéos est un sujet très important, car nous ne ferons bientôt plus la différence entre une image captée dans la réalité et une image générée par intelligence artificielle.

Mme Françoise Gatel, présidente. - La différence entre un robot et nous est que nous souhaitons conserver notre libre arbitre.

M. Jean-Baptiste Roffini. - La peur s'exprime à deux niveaux, individuel et managérial, au sein des collectivités. La peur individuelle est celle d'un remplacement par l'intelligence artificielle ; celle du manager est celle de la gestion des ressources, une fois l'emploi de l'intelligence artificielle adopté. Ces deux peurs peuvent être levées aisément par l'utilisation de l'intelligence artificielle qui démystifie très rapidement cette technologie, qui présente comme toutes les autres des défauts et des limites. D'un point de vue managérial, il convient de s'interroger sur la généralisation de l'emploi de l'intelligence artificielle à l'ensemble du personnel ou au contraire son autorisation à un groupe plus restreint. Généralement, le déploiement se fait par palier, avec un premier emploi de façon restreinte avant une ouverture à tous. La peur est liée à l'inconnu. Mais l'usage de l'outil révèle ses apports indéniables d'assistance et de rapidité.

Pour répondre à la question de Monsieur Michau au sujet des autres champs à explorer, nous souhaitons pour notre part inclure à notre base de données les rapports du Sénat et les questions au gouvernement pour les rendre accessibles, notamment aux DGA, afin de leur apporter davantage de hauteur de vue dans leurs décisions. Ce serait d'une grande aide pour les collectivités territoriales et particulièrement pour les petites communes de moins de 3 500 habitants, dont nous avons décidé d'être solidaires en leur offrant Delibia.

M. Guillaume Gormand. - Quand nous évoquons l'évaluation, cela ne concerne pas que la technologie mais également son intégration dans la chaîne des politiques publiques. Et je partage parfaitement les craintes soulevées par Madame Gruny.

Je voudrais illustrer mon propos par un exemple. J'ai en effet remarqué, dans le cadre de mes travaux de thèse, le fort taux de confiance accordé par les policiers nationaux travaillant en centre de commandement aux opérateurs de vidéosurveillance, qui sont de fait de très bons professionnels. À l'occasion d'appels pour des faits de faible à moyenne intensité, les policiers appelaient ces opérateurs pour vérifier la véracité des faits rapportés. Cette dernière était remise en question quand les opérateurs ne trouvaient pas trace du fait sur les bandes enregistrées des caméras. Or la vidéosurveillance peut être mise en échec par de nombreux facteurs (champ visuel tronqué, imprécision de la localisation,
etc.). Mais le taux de confiance était si élevé, qu'il avait un impact sur la gestion des questions de sécurité. En effet, cette dernière requiert l'intervention sur le terrain d'humains qui portent assistance à d'autres humains. Si l'intelligence artificielle était utilisée demain à la place de ces opérateurs avec une notion d'infaillibilité, des biais pourraient exister qui auraient un impact considérable sur les questions de sécurité publique. Dans ces conditions, l'évaluation est primordiale pour une intégration convenable de l'intelligence artificielle.

M. Pierre Ouzoulias. - Je remercie Monsieur le Maire de Sceaux de son accueil et me réjouis de l'intelligence qui règne dans ces débats.

Je remarque par ailleurs que l'intelligence artificielle est exclusivement représentée aujourd'hui par des hommes.

Je voudrais revenir sur le sujet de l'aide apportée par l'intelligence artificielle dans la rédaction des comptes rendus de séance. Le Sénat a lancé un travail sur la complexité de ce sujet qui doit prendre en compte la manière de faire intervenir l'intelligence des agents dans la rédaction de comptes
rendus. J'apprécie particulièrement dans votre proposition le fait de travailler sur une base de données fermée, qui garantit la fiabilité des éléments produits. Il convient toutefois de penser les comptes rendus en fonction de la manière dont ils seront exploités dans le débat public, ce qui modifie en profondeur l'exercice du compte rendu. Il serait pertinent que le Sénat fasse profiter les collectivités de ses réflexions et de ses avancées.

Mme Sonia De La Provôté. - L'arrivée de l'intelligence artificielle signifie l'immixtion du secteur privé dans les politiques publiques et dans la maîtrise des élus. Cette immixtion est si massive qu'elle devient un élément majeur d'influence d'une part de l'évolution des politiques publiques et d'autre part de l'évolution de l'usager et de sa relation avec le service public. En effet, l'usager se voit rendre un service mais il rend lui-même un service puisqu'il nourrit l'intelligence artificielle. Cet état de fait modifie singulièrement l'évolution de nos services publics.

Au-delà de la question des peurs générées par l'intelligence artificielle, menez-vous une réflexion sur ce sujet, car certes l'intelligence artificielle est un outil mais un outil d'influence. L'inconscient collectif sera en effet radicalement modifié dans les années à venir, avec l'emploi de l'intelligence artificielle.

M. Laurent Somon. - Je vous ferai en guise d'introduction deux remarques :

- R2D2 ne me fait pas peur, il est sympathique ;

-   l'accueil en période de pandémie de Covid a montré l'intérêt de maintenir la relation humaine et de donner des réponses pertinentes.

Voici mes questions :

- sur l'urbanisme, sur le sujet du PLUI, envisagez-vous de générer des pré-instructions, pour apporter rapidement des réponses pertinentes au pétitionnaire dès le dépôt du dossier ?

- s'agissant de notre exemple de troubles du voisinage, l'appel étant réalisé en dehors des heures d'ouverture de l'accueil, l'usager est amené à renouveler sa démarche. Devra-t-il refaire tout le cycle de la démarche ?

- avez-vous mené des analyses sur des consultations citoyennes ? En effet, le Grand Débat national n'a pas été probant à ce titre ;

- l'arrivée de l'intelligence artificielle annonce-t-elle la disparition des centres d'appel ? En effet, de nombreuses collectivités ont beaucoup investi dans ce domaine ;

- serez-vous en capacité d'analyser la fiabilité des données, en particulier des films et des documents proposés au public ?

Mme Isabelle Florennes. - Quel est l'ordre de grandeur d'un investissement initial pour les collectivités, sachant que leurs finances sont très limitées ?

Quelle stratégie recommandez-vous pour les petites communes ?

M. Johan Catouilliard. - Je vais tâcher de vous apporter une réponse globale.

Tout d'abord, l'intelligence artificielle n'est pas un outil qui constitue un tout. C'est l'aboutissement d'un cheminement de la collectivité, qui nécessite une acculturation des services et du personnel à différents sujets, de la gestion de la donnée à l'intelligence artificielle. Si ce sujet est abordé comme un tout, le risque est grand de la perte de sens, de la perte de la qualité de la réponse, voire de la perte de la maîtrise de la réponse. C'est pourquoi il y a une nécessité d'être dans une culture globale des services publics. Il conviendra par conséquent de faire évoluer les agents et leurs profils. Par exemple, un instructeur urbaniste devra développer ses connaissances informatiques pour maîtriser l'outil, afin de ne pas l'utiliser comme un oracle, qui donne une réponse à laquelle il se conforme aveuglément. Ce risque sera évité par un accompagnement adapté des agents.

S'agissant des coûts, je ne pourrai pas isoler l'intelligence artificielle du reste du projet. Au global, Récital est un projet de l'ordre de 2 millions d'euros. L'intelligence artificielle n'en représente qu'une partie.

M. Thomas Guenoux. - S'agissant de l'immixtion du secteur privé dans le public, je n'ai pas de réponse à vous apporter. Je reconnais que je n'ai pas mené une telle réflexion.

Par ailleurs, l'intelligence artificielle adapte sa réponse quand elle est sollicitée en dehors des horaires d'ouverture des services. Par conséquent, si l'usager renouvelle son appel à une autre période de la journée, ce ne sera pas forcément le même parcours qui lui sera proposé. En outre, certaines organisations proposent des prises de rendez-vous téléphoniques pour qu'un agent rappelle l'usager aux heures d'ouverture du service.

Pour notre solution, le budget annuel est de l'ordre de 10 000 euros par an. Il dépend cependant du volume d'appel.

Sur la question des centres d'appel, j'estime qu'à court terme, l'arrivée de l'intelligence artificielle n'implique pas un remplacement mais un changement d'emploi. À ce sujet, les agents d'accueil de Plaisir répondent toujours au téléphone mais interagissent également avec leur assistant virtuel pour l'entraîner et l'améliorer. En revanche, à l'horizon de dix ans, nous assisterons à une restructuration complète de certains pans de l'économie en raison du développement de l'intelligence artificielle. Les centres d'appel seront concernés. À cet égard, la France sera impactée, mais dans une moindre mesure par rapport à l'Inde, Madagascar ou l'île Maurice.

M. Hubert Castelnau, responsable des relations publiques de Delibia. - Chez Delibia, nous avons fait le choix de mettre à disposition l'intelligence artificielle pour les petites communes, pour une question de solidarité territoriale. Nous avions déjà constaté que la prise en main de l'Internet dans ces communes avait été plus complexe. L'arrivée de l'intelligence artificielle s'annonce de façon très prochaine et rapide.

C'est pourquoi nous ne pouvons pas nous permettre de perdre cinq ou dix ans pour former les secrétaires de mairie à ce sujet. Nous avons donc modulé nos prix :

- à partir de 3 000 euros par ans pour une commune de 3 500 habitants et plus, avec un service accessible à tous les agents et les élus ;

- aux alentours de 8 000 euros pour une ville de la taille de Sceaux ;

- de 30 000 euros à 50 000 euros pour une région selon sa taille.

M. Johan Catouilliard. - Le sujet de l'urbanisme constitue pour nous un axe de travail, car nous ne disposons pas à ce jour d'outil à proprement
parler. En revanche, nous concevons que l'intelligence artificielle pourrait aider l'instructeur dans ses premiers éléments de réponse. De notre point de vue, un tel apport n'aura pas valeur de décision mais pourra avantageusement préparer le travail.

Mme Françoise Gatel, présidente. - Je vous remercie très sincèrement de votre participation à cette table ronde et des réponses apportées à nos questionnements. Ce sujet est très riche pour nous tous. N'hésitez pas à nous adresser vos contributions, d'autant que nous avons dû écourter certains échanges par manque de temps.