La révolution de l’IA générative pourrait bouleverser tous les secteurs d’activité – y compris le secteur public. Comment mettre cet outil au service de l’intérêt général ? Comment exploiter son potentiel sans rien céder sur nos libertés, notre humanité et notre souveraineté ?
Pour son thème de travail 2024, la délégation a fait le choix d’une approche concrète et sectorielle, avec une série de rapports thématiques confiés à des binômes ou trinômes de rapporteurs, des auditions publiques et des travaux communs avec d’autres délégations.
Les rapports thématiques et leurs rapporteurs
- Rapporteurs
Sylvie VERMEILLET – UC – Jura
Didier RAMBAUD – RDPI – Isère
- Résumé
Pour l'administration fiscale, la douane et les caisses de Sécurité sociale, l'IA générative pourrait être l'occasion de tenir enfin les promesses de la révolution numérique, en rendant le service public plus efficace, mais aussi plus accessible, plus personnalisé et plus humain. Grâce à l'apprentissage profond et aux réseaux de neurones, la lutte contre la fraude pourrait faire un pas de géant.
Pourtant, les expérimentations restent à ce jour limitées, et les moyens insuffisants. Bercy porte les projets les plus innovants, tandis que la sphère sociale est sur la défensive. Il faut maintenant se saisir de tout le potentiel de l'IA, identifier les usages, comprendre les risques et les limites, assumer les objectifs et s'en donner les moyens.
- Rapporteurs
Anne VENTALON – LR – Ardèche
Christian REDON-SARRAZY – SER – Haute-Vienne
- Résumé
Le secteur de la santé est l’un de ceux qui pourraient le plus tirer parti des progrès de l’IA.
Les utilisations de l’IA en santé sont déjà très variées – recherche, dépistage, fourniture d’informations, aide à la décision, production documentaire – et leur potentiel de développement, avec une transformation des pratiques médicales au bénéfice des patients, est fort. Pour être accepté, son déploiement devra se fixer deux objectifs, l'efficacité et l'éthique, ce qui signifie notamment que l'accès indispensable à des données nombreuses et fiables devra être solidement encadré.
Le rapport de la délégation n'a pas pour objet de fournir une analyse exhaustive des technologies d’IA mises en œuvre dans le domaine de la santé mais d’identifier les différents scénarios de déploiement de l’IA, en s’appuyant sur les utilisations déjà existantes ou celles actuellement développées par des startups en lien avec les professionnels de santé. Il repousse un "techno-enthousiasme" excessif, voyant dans l’IA une solution miracle et négligeant les nombreuses adaptations qui seront nécessaires, mais ne verse pas non plus dans le "techno-pessimisme" surestimant les difficultés et les risques.
- Rapporteurs
Bernard FIALAIRE – RDSE – Rhône
Christian BRUYEN – LR – Marne
- Résumé
Déjà très ancrée dans les usages des jeunes générations, l’intelligence artificielle – en particulier générative – offre un formidable potentiel d’innovation dans le secteur de l’éducation, qu’il s’agisse de l’enseignement adaptatif, des possibilités offertes en matière d’ingénierie pédagogique ou de l’accès des élèves à des chatbots pour ne citer que quelques usages possibles.
Pourtant, faute d’un accompagnement suffisant de la communauté éducative, ces possibilités sont encore peu exploitées. Comment adapter les pratiques d’enseignement ? Quelles évolutions dans les relations de l’enseignant avec les apprenants ? Comment garantir un usage éthique et veiller à la capacité de discernement des utilisateurs ? L’irruption de l’intelligence artificielle générative à l’école déstabilise autant qu’elle enchante.
Dans ce contexte, le rapport plaide pour une approche objective et équilibrée. Il définit trois axes de travail assortis de propositions pour bâtir un cadre de confiance et permettre une intégration efficace et responsable de l’intelligence artificielle dans le système éducatif.
- Rapporteurs
Christine LAVARDE – LR – Hauts-de-Seine
Nadège HAVET – RDPI – Finistère
Jean-Baptiste BLANC – LR – Vaucluse
- Rapporteurs
Amel GACQUERRE – UC – Pas-de-Calais
Jean-Jacques MICHAU – SER – Ariège
En commun avec la délégation aux collectivités territoriales
Pourquoi ce contrôle ?
À l’instar des révolutions technologiques générales que furent la machine à vapeur, l’électricité ou encore Internet, l’intelligence artificielle (IA) pourrait profondément changer la façon dont nous vivons et travaillons, et ceci dans tous les domaines. Pourtant, dans le secteur public, les expérimentations restent à ce jour limitées, les annonces modestes, et la parole officielle extrêmement prudente.
Pour l’État, les collectivités territoriales et les autres acteurs publics, le potentiel de l’IA générative est immense. Bien utilisée, elle pourrait devenir un formidable outil de transformation de l’action publique, rendant celle-ci non seulement plus efficace – qu’il s’agisse de contrôle fiscal ou de diagnostic médical – mais aussi plus proche des citoyens, plus accessible, plus équitable, plus individualisée et finalement plus humaine – avec une capacité inédite à s’adapter aux spécificités de chaque élève, de chaque demandeur d’emploi, de chaque patient ou de chaque justiciable.
Pour autant, le secteur public n’est pas un secteur comme les autres. Si l’IA n’est qu’un outil, avec ses avantages, ses risques et ses limites, son utilisation au service de l’intérêt général ne pourra se faire qu’à condition que les agents, les usagers et les citoyens aient pleinement confiance.
La confiance, cela passe d’abord par la connaissance : par son approche sectorielle, la délégation espère contribuer à démystifier une technologie qui suscite encore beaucoup de fantasmes, et à en montrer concrètement les possibilités comme les limites.
La confiance, c’est aussi et surtout l’exigence : une IA au service de l’intérêt général, c’est une IA au service des humains (agents et usagers), et contrôlée par des humains (citoyens). C’est aussi une IA qui s’adapte à notre organisation administrative et à notre tradition juridique, et qui garantit le respect des droits et libertés de chacun. C’est, enfin, une IA qui n’implique ni dépendance technologique, ni renoncement démocratique.