II. PLUSIEURS SCÉNARIOS POSSIBLES
Les usages de l'IA sont appelés dans les prochaines années à s'étendre dans un grand nombre domaines. Nous sommes déjà des utilisateurs quotidiens de l'IA embarquée dans des applications banales sur nos téléphones, dans nos véhicules, ou même dans nos activités de loisir. Le monde professionnel sera conduit lui aussi à intégrer de plus en plus d'IA dans les processus les plus courants, de la conception à la réalisation de projets.
Il n'y a donc aucune raison que la gestion territoriale reste à l'écart de ce mouvement général. Mais le développement des usages de l'IA peut se faire à un rythme ou selon des modalités très variables. Les choix politiques d'aujourd'hui peuvent avoir des conséquences lourdes demain. C'est pourquoi il est indispensable d'imaginer les scénarios possibles d'appropriation de l'IA dans les territoires, par les acteurs locaux que sont les collectivités territoriales mais aussi plus largement par les citoyens ou les entreprises.
A. LES GRANDS DÉTERMINANTS DU FUTUR DE L'IA DANS LES TERRITOIRES
Sans prétendre à l'exhaustivité, on peut identifier trois catégories de déterminants du déploiement de l'IA dans les territoires :
- le volume des investissements financiers et humains que les acteurs locaux pourront consacrer afin d'utiliser et maîtriser l'IA ;
- les facilités d'accès aux ressources informatiques ;
- enfin, le degré d'acceptation sociale de l'IA dans les territoires, étroitement lié aux choix de gouvernance locale.
1. Quels moyens financiers et humains mobilisés pour l'IA dans les territoires ?
Le marché des logiciels et services numériques du secteur public en France s'élèverait à 8,5 milliards d'euros par an21(*), ce qui représente une très faible part de la dépense publique totale, mais elle est en hausse sensible et continue. Les dépenses informatiques des collectivités territoriales sont plus difficiles à évaluer, mais seraient estimées à environ 2 % de l'ensemble de leurs budgets. Elles progressent régulièrement, de l'ordre de 4 % par an22(*).
La mise en oeuvre de solutions fondées sur l'IA peut se heurter à des difficultés budgétaires en période tendue pour les budgets locaux, mais l'obstacle financier n'est pas insurmontable. En effet, les solutions d'IA peuvent s'autofinancer en générant des économies de fonctionnement. Par ailleurs, les phases de démarrage et d'expérimentation font l'objet de soutiens financiers dans le cadre d'appels à projets. Enfin, il existe des possibilités de mutualisation des coûts d'investissement par la mutualisation au sein de structures jouant le rôle d'opérateurs publics de services numériques (OPSN), comme des syndicats mixtes numériques.
Le goulot d'étranglement se situerait plutôt à l'échelle des ressources humaines. Un rapport de l'Inspection générale des finances et du Conseil général de l'économie, de l'industrie, de l'énergie et des technologies, intitulé « Les ressources humaines de l'État dans le numérique » remis en janvier 202323(*) pointait les difficultés de recrutement d'informaticiens pour accompagner la transformation numérique de l'État.
Il en va de même dans les collectivités territoriales, avec en outre un problème lié à la petite taille de certaines structures, qui ne peuvent pas disposer d'équipes suffisamment nombreuses. Le suivi des projets d'IA demande des compétences rares sur le marché du travail. Plusieurs solutions sont possibles comme la mutualisation des compétences entre collectivités, ou le recours, cependant souvent coûteux, à de l'assistance à maîtrise d'ouvrage pour des projets qui ne peuvent pas faire l'objet d'un suivi interne, voire à une délégation complète des fonctions informatiques à un prestataire (externalisation).
Il est clair que le développement maîtrisé des usages de l'IA dans chaque territoire dépendra de sa capacité à dégager des moyens financiers et surtout humains pour mettre en oeuvre les solutions informatiques pertinentes.
2. Quelle capacité des territoires à accéder aux ressources informatiques ?
Un autre paramètre de déploiement de l'IA réside dans la capacité des acteurs locaux à pouvoir solliciter les ressources de l'IA. Il ne s'agit pas que de mobilisation de moyens financiers. Encore faut-il que des solutions existent.
Les territoires sont en effet exposés au risque de représenter un marché trop étroit, trop spécifique ou trop peu solvable pour que des start-up s'y intéressent. Elles pourraient n'accéder qu'à un premier niveau d'IA, généraliste, pour des applications simples, mais ne pas pouvoir compter sur des développements dédiés.
Il existe également un risque que des systèmes d'IA appliqués aux territoires, entraînés plutôt sur des données du monde urbain dense, soient biaisés et de ce fait moins efficaces qu'ailleurs. La possibilité d'une IA à deux vitesses dans laquelle les « petits territoires » seraient moins bien dotés, moins bien équipés, n'est pas à exclure.
Une autre difficulté tient à la connectivité et aux besoins de débits suffisants pour les échanges d'information. Ce point est loin d'être insurmontable car les progrès du transport de données par satellite peuvent constituer une réponse à l'absence ou l'insuffisance des réseaux de fibre optique à terre ou des réseaux de téléphonie mobile.
3. Comment garantir l'acceptation sociale de l'IA par les citoyens et les élus ?
Lorsqu'une technologie rend des services réels, elle est bien souvent adoptée rapidement, quelles que soient les mesures d'interdiction, de restriction ou d'encadrement que l'on tente de mettre en place.
Au-delà de la curiosité initiale, les technologies d'IA seront adoptées si elles sont utiles. Il est illusoire de vouloir les restreindre. En revanche, la nécessité d'un cadre juridique et éthique de ses usages est réelle et trouve sa concrétisation dans les dispositions du règlement européen sur l'IA (AI Act) mais aussi dans la mise en oeuvre de bonnes pratiques locales.
Une première bonne pratique consiste à associer les citoyens à la montée en puissance des systèmes d'IA. Cela va au-delà des seules exigences réglementaires relatives à la protection des données personnelles ou à la mise en oeuvre de l'AI Act.
La ville de Lyon a par exemple institué un observatoire citoyen de l'IA pour permettre aux habitants de mieux comprendre son impact sur le quotidien. À l'issue d'une convention citoyenne sur le sujet, la métropole de Montpellier a créé un comité métropolitain de l'IA et du numérique chargé notamment de donner un avis indépendant sur les projets d'IA portés par la métropole, au regard de leurs impacts sociétaux, écologiques et économiques. Elle s'est dotée d'une stratégie de la donnée et de l'intelligence artificielle dont le but est de garantir la confiance des citoyens.
La méfiance vis-à-vis de l'IA et les idées fausses peuvent être combattues en ne faisant pas de l'IA une affaire de techniciens uniquement, mais en associant le plus possible à sa mise en place les citoyens ou le grand public.
Stratégie de la donnée et de l'intelligence artificielle de Montpellier Méditerranée Métropole - Extraits de la doctrine
La collectivité souhaite développer une politique publique structurée et souveraine de la Data en étant maître de la Data produite de bout en bout de la chaîne, sans dépendance technologique, la technologie doit servir l'usage ; ouverte et interopérable en évitant la fragmentation des solutions déployées ; pour faire converger la Data et mieux piloter les politiques publiques ; pour approfondir la connaissance du territoire et éclairer les décisions ; pour optimiser les services rendus et évaluer les dispositifs. Favoriser la souveraineté de la collectivité sur sa Data constitue donc un impératif majeur auquel elle répond en travaillant à construire un data center souverain mutualisé.
La collectivité considère la Data du service public comme un bien public. Elle reconnaît que cette Data publique forme un patrimoine qu'il convient de protéger et de valoriser.
La collectivité suit aussi avec grande attention le contexte juridique en constante évolution, avec notamment l'adoption de nouveaux textes européens tels que l'AI Act et le Data Governance Act qui visent à encadrer et réguler l'utilisation de l'IA ainsi que la gestion de la Data au service de l'intérêt général.
Pour répondre aux préoccupations de l'avis des citoyens à l'usage de l'IA, la collectivité s'engage à établir des règles strictes pour encadrer l'utilisation de la Data et de l'IA, afin de garantir la confiance des citoyens.
La collectivité assume pleinement sa responsabilité de veiller à la conformité réglementaire de la gestion de la Data, qu'il s'agisse d'usages internes ou confiés à des tiers via des délégations de service public ou des contrats publics. Pour ce faire, la collectivité envisage l'introduction de nouveaux mécanismes tels que l'intégration de clauses spécifiques sur la Data dans les contrats publics.
La gestion de la Data exige des compétences nouvelles, une organisation précise et des processus de gestion optimisés, notamment pour favoriser la mutualisation. Pour l'ensemble des agents, la Data transforme les approches de conception, de mise en oeuvre et d'évaluation des politiques publiques en favorisant davantage la transversalité.
Il est essentiel de veiller à une répartition équitable de la valeur entre les acteurs du territoire, en garantissant que tous puissent bénéficier des retombées économiques de la valorisation de la Data.
La collecte et la mise à disposition de la Data quantitative et qualitative permettent de renforcer l'évaluation des politiques publiques.
Une autre bonne pratique consiste à permettre une « expérimentation accompagnée » de l'IA, qui commence par une sensibilisation aux bonnes pratiques et l'information des utilisateurs sur les risques et limites des outils dont on les dote. Plusieurs collectivités ont mis en place des chartes de l'intelligence artificielle. Mais il faut aller au-delà de la seule rédaction de chartes et développer des formations à l'IA, à destination du personnel municipal comme des élus.
Il s'agit donc d'assurer une acceptation sociale de l'IA, qui réponde aux critères généraux d'une IA de confiance, mais soit aussi déclinée localement. Cette déclinaison locale passe par la nécessité de maîtriser l'IA, d'en comprendre les mécanismes, et de ne pas se laisser dominer par la technique de manière passive. Ainsi, une IA sur le territoire n'est acceptable dans un cadre démocratique que si elle laisse une liberté de décision aux élus, si elle ne joue qu'un rôle de conseil et non pas de décision. Les citoyens doivent pouvoir participer à la décision de mise en oeuvre des IA et disposer du pouvoir de les contrôler.
Les sept critères d'une IA de confiance
Le déploiement de l'IA pose des questions éthiques importantes. La Commission européenne avait émis en 2019 des lignes directrices pour une IA de confiance, retenant sept critères.
Globalement, un système d'IA de confiance doit être licite (s'inscrire dans le cadre légal), éthique (s'inscrire dans le cadre moral) et robuste (s'inscrire dans un cadre technique).
Les sept critères sont :
1° Action humaine et contrôle humain : respect des droits fondamentaux, action et contrôle humains ;
2° Robustesse technique et sécurité : résilience aux attaques et sécurité, plans de secours et sécurité générale, précision, fiabilité et reproductibilité ;
3° Respect de la vie privée et gouvernance des données : respect de la vie privée, qualité et intégrité des données et accès aux données ;
4° Transparence : traçabilité, explicabilité et communication ;
5° Diversité, non-discrimination et équité : absence de biais discriminants ou injustes, accessibilité et conception universelle, participation des parties prenantes ;
6° Bien-être sociétal et environnemental : lien avec la durabilité et le respect de l'environnement, l'impact social, la société et la démocratie ;
7° Responsabilité : auditabilité, réduction au minimum des incidences négatives et communication à leur sujet, arbitrages et recours.
Source : Inria
* 21 Source : étude réalisée en 2023 par le cabinet Markess : https://www.markess.com/secteur-public/secteur-public-digital-donnees-de-marche-et-perspectives-devolution-2022-a-2026/
* 22 Source : https://www.lagazettedescommunes.com/914127/depenses-informatiques-comment-alleger-la-facture/
* 23 https://www.vie-publique.fr/rapport/290132-igf-et-cge-rapport-ressources-humaines-de-l-etat-dans-le-numerique