EXAMEN EN DÉLÉGATION
Réunie le mardi 21 mai 2024, la délégation à la prospective a examiné le rapport de Mme Anne Ventalon et M. Christian Redon-Sarrazy sur « IA et santé ».
Mme Christine Lavarde, présidente. - Bonjour à tous et merci de vous être libérés pour cet horaire inhabituel qui nous permet de concilier au mieux les contraintes d'agenda des membres de la délégation. Le rapport sur IA et santé que nous allons examiner dans un instant est attendu. Pas plus tard encore que ce matin, le précédent rapport de la délégation a été cité dans un colloque autour de l'intelligence artificielle. Il a notamment été souligné le côté très didactique de la présentation qui en fait un document agréable à lire sur un sujet qui n'est pas forcément toujours accessible. Nos travaux sont connus. J'en veux pour preuve l'invitation que j'ai reçue en tant que présidente de la délégation pour un événement qui se tient aujourd'hui à l'Élysée autour de l'intelligence artificielle.
Je ne vais pas être plus longue et laisser les rapporteurs présenter leurs travaux. Pour avoir parcouru hier soir leur rapport, je pense qu'il est vraiment dans la continuité de ce qui a été réalisé sur IA et services financiers et sociaux, c'est-à-dire qu'il présente un bon équilibre entre les opportunités de l'IA, qui sont réelles, et en même temps les zones d'ombres ou de risques sur lesquelles il faut se préparer pour disposer à la fin d'une intelligence artificielle responsable, dans une définition très large du terme responsable.
Mme Anne Ventalon, rapporteure. - Merci madame la Présidente. Après la présentation par nos collègues Sylvie Vermeillet et Didier Rimbaud, du premier rapport thématique de la délégation sur l'intelligence artificielle consacré aux impôts, prestations sociales et à la lutte contre la fraude, nous avons le plaisir avec Christian Redon-Sarrazy, de vous présenter le deuxième rapport thématique portant sur l'intelligence artificielle et la santé.
Pour disposer d'un panorama pertinent et fiable sur le sujet, nous avons procédé, entre le 30 janvier et le 19 mars dernier, à 15 auditions et nous avons aussi reçu quelques contributions écrites complémentaires. Nous avons également participé à la table ronde organisée par la commission des affaires sociales du Sénat sur le sujet de l'intelligence artificielle en santé le 13 mars dernier. Tous ces échanges nous ont confirmé le grand intérêt pour l'IA de l'ensemble des acteurs du monde de la santé : médecins, chercheurs, entreprises du numérique en santé, pouvoirs publics. Et en même temps, l'intelligence artificielle n'est pas encore totalement rentrée dans les habitudes et continue à susciter interrogations, voire controverses.
Sans prétendre à lever tous les doutes ou à figer la réflexion, notre rapport vise simplement à faire un état des lieux et à émettre quelques recommandations afin que notre système de santé et notre pays ne ratent pas le virage de l'IA, et tire aussi le maximum de bénéfices de cette technologie pour les patients, pour les professionnels de santé et plus globalement, pour l'organisation de notre système de soins.
Notre premier constat est que la santé est un bon terrain de jeu pour déployer les technologies d'intelligence artificielle, et ce, pour une raison simple : la prise en charge de la santé passe par le traitement de masses de plus en plus importantes et diversifiées de données. Il est de moins en moins possible pour le cerveau humain de gérer autant de données dans des délais très courts. Les outils numériques sont donc nécessaires pour l'aider. La mise à disposition de l'information médicale par Internet et par des bases de connaissances de plus en plus complètes et facilement accessibles constitue un premier levier d'aide, au demeurant, largement accessible au grand public. Un deuxième levier réside dans les systèmes numériques d'aide à la décision, par exemple pour l'interprétation des clichés radiologiques, pour celle des analyses biologiques ou encore pour la prescription de médicaments. Dans le domaine médical, l'IA intervient pour automatiser le traitement de nombreuses données et pour en faire quelque chose d'utile dans le processus de soin.
À ce stade, on peut rappeler la définition très large donnée à l'IA par l'article 3 du règlement européen sur l'intelligence artificielle, dit Artificial Intelligence Act (AI Act), qui vient d'être adopté par le Conseil et le Parlement européen. Un système d'IA, je cite, est « un système basé sur une machine, qui est conçu pour fonctionner avec différents niveaux d'autonomie et qui peut faire preuve d'adaptabilité après son déploiement et qui, pour des objectifs explicites ou implicites, déduit, à partir des données qu'il reçoit, comment générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer des environnements physiques ou virtuels ». Trois mots sont importants dans cette définition : autonomie, données et résultats. Un système d'IA se nourrit de données, doit fonctionner de manière autonome et vise à produire un résultat comme attribuer un score ou proposer un choix entre oui et non.
L'IA existe depuis de nombreuses années et les systèmes experts bien programmés, qui ne sont pas autre chose que la résolution d'équations par ordinateur, ont déjà été utilisés dans le domaine de la santé. L'irruption de l'IA générative fonctionnant par auto-apprentissage ouvre toutefois de nouvelles perspectives en augmentant l'autonomie des systèmes capables d'apprendre par eux-mêmes à partir d'un très grand volume de données et d'enrichir les résultats. Il faut cependant garder à l'esprit les grandes différences entre les différentes catégories de systèmes d'IA, comme nous le faisaient remarquer les professeurs Brigitte Seroussi, Guillaume Assié ou encore le docteur Hernandez et le professeur Senhadji lors de leurs auditions, il y a une tension entre performance et explicabilité des différents modèles d'IA.
Ainsi, l'IA symbolique classique est très explicable mais a des performances limitées. Elle ne produit que ce pour quoi elle a été programmée, tandis que l'IA connexionniste, à la base de l'IA générative, qui fonctionne par rapprochements statistiques, est très performante, capable de donner des résultats que l'on n'avait pas prévus, mais est moins bien explicable.
Pour autant, l'IA générative pourrait être utilisée avec réussite dans le domaine de la santé, par exemple, pour mettre en forme des informations désordonnées ou pour produire des comptes rendus. L'Académie nationale de médecine a rendu récemment un rapport sur l'IA générative qui estime que son déploiement pourrait avoir un impact positif pour aider les médecins dans leurs pratiques quotidiennes.
Nous ne prétendons pas faire un panorama exhaustif de l'ensemble des utilisations de l'IA en santé, mais nous avons collecté de nombreux exemples qui permettent d'affirmer que son domaine d'application actuel et dans un futur proche, couvre un large spectre. En premier lieu, l'IA constitue un formidable accélérateur de recherche médicale. Je laisserai mon collègue Christian Redon-Sarrazy vous en dire plus sur ce sujet-là.
Un des domaines majeurs dans lesquels l'IA présente un grand intérêt est celui de l'imagerie médicale. Une étude américaine datant déjà de 2012 avait montré la grande performance des systèmes à base de réseaux convolutifs profonds pour lire les clichés radiologiques numérisés, faisant même dire à Geoffrey Hinton, spécialiste américain du deep learning, qu'il fallait arrêter de former des radiologues qui seraient rapidement dépassés par la machine. En réalité, ce remplacement du médecin par l'algorithme ne s'est pas produit, mais le métier de radiologue évolue rapidement. Des tâches de vérification ou de tri peuvent ainsi être automatisées avec un haut degré de fiabilité.
L'IA irrigue en vérité un très grand nombre de spécialités médicales. Pas moins de 700 dispositifs numériques médicaux intégrant l'IA ont fait l'objet d'une validation par la FDA (U.S. Food and Drug Administration) ou d'un marquage CE en Europe. On utilise l'IA en cancérologie pour identifier les tumeurs, leur stade de développement, affiner les pronostics, mais aussi assurer le suivi du traitement des patients. L'Institut national du cancer, que nous avons auditionné, estime qu'il existe aujourd'hui un potentiel énorme de l'IA en cancérologie. On utilise aussi l'IA en anatomopathologie pour lire les lames de pièces anatomiques. On l'utilise aussi en cardiologie, en neurologie, en néphrologie pour analyser la bonne adéquation entre greffon et greffé, comme nous l'a indiqué le professeur Alexandre Loupy.
Aussi, nous pouvons affirmer que l'intelligence artificielle en santé n'est pas un gadget, mais un outil supplémentaire capable d'apporter beaucoup à plusieurs niveaux. Les avantages de l'IA en santé sont en effet multiples.
Premier intérêt, elle peut améliorer la qualité des soins. En limitant les erreurs, en réduisant les pertes d'informations, en corrigeant les failles de prise en charge, par exemple en repérant les interactions médicamenteuses, l'IA pourrait ainsi harmoniser la qualité des soins par le haut et réduire les inégalités de prise en charge. Deuxième intérêt : faire gagner du temps en confiant à l'IA toute une série de tâches répétitives, les tâches administratives de collecte et d'enregistrement de données qui représentent une part importante du temps de travail des soignants. Certaines études parlent même de 25 % du temps des infirmières qui pourraient ainsi être gagné. Une étude de l'OCDE estime que l'IA pourrait automatiser plus d'un tiers de l'activité des services de santé et services sociaux. À l'APHP, un logiciel intégrant de l'IA guide les utilisateurs du dossier médical informatisé. Il repère les erreurs, émet des alertes, répond aussi aux questions des soignants. Troisième intérêt : l'IA pourrait contribuer à mieux organiser notre système de santé en réduisant les examens redondants ou encore en organisant mieux les blocs opératoires ou en aidant à mieux orienter les patients aux urgences. L'IA permet aussi d'anticiper les flux. À l'hôpital de Valenciennes, on ajuste les effectifs aux flux de patients attendus, estimés par une intelligence artificielle.
Un point suscite un espoir : l'IA pourrait aider à lutter contre les déserts médicaux. En rendant plus performante la télémédecine, nous pourrions organiser un service de santé de qualité dans les territoires ruraux ou périurbains où nous manquons cruellement de médecins. Certains examens pourraient être réalisés à distance ainsi que le suivi des patients, à condition toutefois que la couverture numérique du territoire soit satisfaisante et qu'une offre de télémédecine soit effectivement proposée localement. Soyons cependant mesurés sur ce sujet, l'IA ne résoudra pas le problème des déserts médicaux en installant des médecins numériques bourrés d'algorithmes pour soigner la population. Il sera toujours nécessaire d'avoir des intervenants humains capables d'échanger avec le patient, de coordonner sa prise en charge. C'est pourquoi nous devons veiller à une répartition plus équilibrée des moyens médicaux et paramédicaux sur l'ensemble du territoire.
L'IA pourrait au final conduire à une modification assez profonde de l'approche du soin. Notre médecine est aujourd'hui principalement curative. Or, la combinaison, d'une part, des avancées de la génomique, d'autre part, des données massives affine l'analyse que l'on peut faire de la santé actuelle et future de chaque individu. Nous pouvons ainsi basculer progressivement vers une médecine prédictive extrêmement personnalisée.
C'est un progrès si l'on parvient, en modifiant les comportements alimentaires ou autres, à prévenir des maladies futures. Mais le revers de la médaille réside dans le risque de faire du surdiagnostic et de s'attaquer inutilement à un large spectre de maladies futures possibles, mais pas du tout certaines, en créant d'autres problèmes : la surmédication, l'augmentation des dépenses d'examen de santé, du stress, etc.
La personnalisation à l'extrême de la médecine pourrait conduire à réinterroger à terme notre modèle d'assurance sociale. L'assurance maladie repose en effet sur la mutualisation du risque lié à la santé. Si la médecine prédictive permettait d'identifier les risques de dégradation de l'état de santé de chacun, de chiffrer les soins à recevoir individuellement, il existe un réel risque éthique de différencier soit les soins, soit leurs tarifications, les plus hauts profils de risques pouvant avoir du mal à s'assurer dans des conditions correctes.
Cependant, l'utilisation de l'IA est encore loin d'avoir atteint un rythme de croisière. Nous n'en sommes qu'au début et les illustrations que l'on a mises en avant ne sont pas encore généralisées. Même en imagerie médicale, l'IA est très développée mais n'a pas remplacé le radiologue. Elle le complète. En anatomopathologie, l'IA peut aider, mais l'absence de numérisation totale des lames empêche d'utiliser l'IA en routine.
Dans le secteur de la santé comme dans d'autres secteurs, l'IA est encore en phase d'apprentissage, avec un foisonnement d'initiatives autour d'équipes médicales motivées et d'entreprises innovantes. De ce bouillonnement pourraient naître des innovations majeures, mais gare aux déceptions. Car les conditions de réussite de l'IA en santé sont assez exigeantes, ce que nous allons voir dans la deuxième partie de cette présentation.
M. Christian Redon-Sarrazy, rapporteur. - Pour que l'IA apporte une réelle plus-value à notre système de santé, plusieurs éléments doivent en effet être réunis. Nous les avons regroupés sous trois grandes catégories. Il faut d'abord avoir accès à des données nombreuses et fiables. Ensuite, il nous faut poser un cadre éthique, car nous ne saurions confier notre santé à des robots autonomes et au fonctionnement opaque. Enfin, il faut un écosystème de l'action publique qui permette effectivement de tirer profit des technologies de l'IA, mais en n'étant pas totalement dépendant d'acteurs extérieurs. J'ajoute qu'il faut lever les réticences et les difficultés dans l'utilisation des outils de l'IA par les professionnels, en améliorant notamment la formation et en offrant les possibilités d'une acculturation, tant du côté des soignants que du côté des usagers du service public de la santé.
Avant d'aborder ces conditions de réussite de l'IA en santé, je souhaite revenir sur l'importance de l'IA aujourd'hui dans la recherche médicale. En effet, grâce à elle, on peut cribler des molécules-cibles, prédire l'activité médicamenteuse d'une molécule, modéliser en 3D des protéines, ce qui est important, par exemple, dans le domaine de la vaccination, et l'on sort d'une période où on en sait quelque chose.
L'IA aide aussi à réaliser des essais cliniques. On peut réduire la taille des groupes de contrôle. On peut constituer des jumeaux numériques pour simuler une opération. L'IA est bien ainsi un accélérateur de recherche qui permet d'effectuer très rapidement des synthèses, de procéder à des rapprochements de données, mais qui permet aussi, et surtout peut-être, d'ouvrir de nouvelles pistes.
Donc, en santé comme dans les autres domaines, pour que l'IA soit performante, encore, faut-il disposer de la matière première. Et aujourd'hui, la matière première, ce sont ces très nombreuses données qui sont stockées un peu partout. Si la puissance de calcul est bien le moteur de l'IA, la donnée en elle-même en est le carburant et l'accès à ces données est un enjeu stratégique pour les start-up et pour les équipes de recherche, les équipes médicales qui travaillent autour de l'IA. Le rapport Marchand-Arvier, qui a été remis fin 2023 et qui portait sur les données de santé, a, de l'avis de tous les acteurs que nous avons auditionnés, posé le bon diagnostic et formulé les bonnes propositions. La France, on le sait, dispose de très nombreuses données : feuilles de soins de la sécurité sociale, données des systèmes d'information des hôpitaux, cohortes de malades, d'essais cliniques, entrepôts de données de santé des hôpitaux.
Donc, la donnée, elle foisonne. Mais l'utilisation secondaire de ces données, c'est-à-dire leur utilisation hors d'une finalité directe de soin pour la personne concernée par ces données, notamment celle qui serait destinée à construire des algorithmes de diagnostic ou de traitement, se heurte à de nombreux freins dont le rapport Marchand-Arvier, a fait l'inventaire.
Le premier frein réside dans le caractère très éparpillé et très hétérogène des bases de données qui, de fait, ne les rend pas facilement utilisables. Le deuxième frein est dû à la durée et à la complexité des procédures réglementaires d'accès à ces données. C'est un sujet dont on entend régulièrement parler. Certes, la Cnil a établi des référentiels simplifiés, au nombre de 13, qui permettent un accès aux données sur simple déclaration dans 72 % des cas. Mais on sait bien que pour autant, il y a encore des opérateurs qui trouvent que c'est trop complexe et qu'il n'y a pas cette facilité qu'on pourrait avoir dans d'autres pays. On pourra en rediscuter. Lorsqu'on ne peut pas recourir à la déclaration, la procédure s'inscrit dans des délais courts : un mois pour l'avis d'un comité éthique et scientifique dénommé le Cesrees et deux mois pour l'avis de la Cnil. Mais le processus n'est pas facile à comprendre et à suivre pour des équipes de recherche qui parfois sont centrées sur d'autres objectifs que ces préoccupations d'ordre administratif.
Un troisième frein repose sur certaines difficultés de négociation entre les producteurs de données, qui sont par exemple les hôpitaux, et les producteurs d'algorithmes qui, eux, ont besoin de ces données. Les discussions sur les conditions financières de mise à disposition sont souvent longues, traînent et sont délicates, et n'aboutissent pas systématiquement. Au final, le délai moyen d'accès effectif aux données pour un projet de recherche est de l'ordre de 18 mois en France, ce qui est beaucoup plus qu'en Asie, par exemple, ou aux États-Unis. La France, en 2019, s'est dotée d'un outil pour faciliter l'accès aux données de santé, le fameux Health Data Hub, qui a pu accompagner plus de 100 projets et gère une plateforme technologique sécurisée.
Mais la confiance dans ce Health Data Hub, qui nous promettait peut-être à la fois de la souveraineté et de la facilité d'accès, a été fragilisée quand on nous a annoncé que les données étaient hébergées par Azure, une filiale de Microsoft, dans l'attente d'un cloud souverain sécurisé à l'horizon 2025. On est dans un domaine où les choses vont très vite. 2025, c'est 12 mois, mais pour les données, pour tous ceux qui opèrent dans ce secteur, c'est beaucoup.
Au-delà du seul enjeu de l'accès aux données, les fournisseurs de solutions d'intelligence artificielle attendent que ces données soient fiables et doivent faire les efforts pour lutter contre les biais, à condition de les repérer. Ces biais peuvent résulter d'un manque de représentativité des données d'entraînement. Ainsi, des différences de qualité de diagnostic en imagerie médicale avaient été constatées entre les hommes et les femmes. Il existe six sources de biais liés aux données numériques, aux essais cliniques antérieurs, à l'insuffisance de données dans certains domaines, aux préjugés cliniques (l'homme est passé par là avant), des biais de référence, des biais liés au profil de risque et des biais liés aux machines et aux algorithmes eux-mêmes. Ces multiples biais peuvent parfois se combiner et avoir des effets exponentiels. La plupart d'entre eux sont involontaires, mais les IA peuvent aussi, dans certains cas, être trompées par des données qui peuvent être volontairement falsifiées pour atteindre tel ou tel objectif.
Pour lutter contre l'ensemble de ces biais, ou tout au moins pour en limiter les effets, les systèmes d'IA doivent développer des filtres et faire des contrôles de cohérence. Donc, ils ne peuvent pas travailler de manière complètement non supervisée. En santé, plus encore que dans d'autres domaines, les systèmes d'IA doivent nécessairement faire l'objet d'un niveau de contrôle élevé. Les applications santé sont d'ailleurs situées au plus haut niveau de risque dans la classification de l'AI Act européen.
L'objectif est d'avoir une IA performante et donc d'abord de la nourrir correctement avec des données de santé qui soient à la fois nombreuses et de qualité. Mais une autre condition de réussite de l'IA en santé ne doit pas être oubliée : c'est bien sûr le fait que l'IA doive répondre à un cadre éthique solide. L'éthique, et je pense qu'on sera tous d'accord là-dessus, est indissociable de la pratique médicale. Ses principes ont été énoncés par les textes internationaux, qu'il s'agisse du code de Nuremberg, de la déclaration d'Helsinki, de la Convention d'Oviedo, et ils ont été déclinés au niveau national par les recommandations du Comité consultatif national d'éthique (CCNE). L'importance prise par le numérique en santé et par l'IA, dans un passé récent, ont donné lieu à la rédaction de lignes directrices de l'Organisation mondiale de la santé (OMS) et à l'échelle nationale, la formulation d'avis par le Comité national pilote d'éthique du numérique, une émanation du CCNE.
Les IA ne répondent en effet pas à des impératifs moraux. Ce sont des outils qui sont dotés d'une certaine autonomie de fonctionnement, mais bien sûr sans conscience et sans affect. Il est donc nécessaire d'encadrer ces outils pour éviter qu'ils ne soient manipulés ou utilisés à mauvais escient. Plusieurs principes éthiques s'imposent donc pour une utilisation vertueuse de l'IA en santé. Un des premiers, peut-être le plus important, c'est de protéger l'autonomie de la décision médicale. La décision ne doit pas totalement être déléguée à la machine. Le corollaire de cela, c'est le maintien d'une responsabilité humaine dans la mise en oeuvre de l'intelligence artificielle. D'ailleurs, je pense qu'on est tous plus enclins à accepter que l'homme se trompe plutôt que la machine. On sera beaucoup moins indulgent, peut-être, avec la machine, si elle seule devait nous fournir des diagnostics.
Le deuxième principe, c'est promouvoir le bien-être et la sécurité des personnes et l'intérêt public. L'IA ne doit pas être utilisée pour nuire. Le troisième principe est qu'il faut garantir une certaine transparence, une explicabilité et une intelligibilité de l'IA qui ne doit pas être une boîte noire incompréhensible. Patients comme médecins doivent être conscients de l'utilisation de l'IA et conscients aussi de ses limites. Cela rend nécessaire qu'il y ait toujours un contrôle humain in fine, que ce ne soit pas l'IA qui ait le dernier mot sur un diagnostic ou une décision.
Le quatrième principe est la garantie de l'inclusion et l'équité. Les IA ne doivent pas être discriminatoires. Il faut ensuite, cinquième principe, promouvoir une IA réactive et durable, notamment sur le plan environnemental. Quand on sait que l'un des principaux enjeux de l'IA, ce sont les données et quand on sait l'impact environnemental de tous ces entrepôts de données, cela interroge. Enfin, bien sûr, c'est le sixième principe, l'IA doit préserver la vie privée. La collecte de données ne peut pas s'accompagner d'une divulgation des informations personnelles de santé.
Après l'accès aux données et le cadre éthique, une troisième condition de réussite de l'IA en santé réside dans le soutien qu'elle aura ou qu'elle a déjà des pouvoirs publics. Le rapport Villani de 2018 avait donné un coup d'accélérateur. La Commission de l'intelligence artificielle, présidée par Philippe Aghion et Anne Bouverot, qui étaient venus présenter leur rapport devant notre délégation au cours d'une audition particulièrement intéressante, réclame 5 milliards d'euros d'investissement sur 5 ans et fait de la santé l'un des axes forts du développement de l'IA en France.
L'Agence de l'innovation en santé estime que l'on a déjà investi environ 400 millions d'euros d'argent public dans l'IA en santé à travers plusieurs dispositifs comme le PEPR Santé numérique. Il est clair qu'une stratégie d'accélération de l'IA en santé passe nécessairement par des soutiens publics forts.
Avant d'en venir à nos quatre axes de recommandations, je voudrais dessiner deux scénarios possibles pour l'IA en santé, l'un redouté, l'autre souhaité.
Le scénario redouté est celui du robot-médecin. Certes, il est évident que les systèmes d'IA n'ont pas aujourd'hui la capacité d'assurer une analyse complète du patient. Ils interviennent, souvent de manière très performante, pour répondre à une question précise comme la localisation de tumeurs, l'identification des biomarqueurs pertinents, la mise en forme d'informations médicales. Mais l'expérience des performances de l'IA peut conduire à une automatisation de nombreuses tâches d'analyse complexes, contribuant à déplacer l'expertise vers la machine. Dès lors, il existe un risque de déqualification dans le match entre l'homme et la machine. On risque de rater des cas complexes, nouveaux, non répertoriés. Faute de contrôle, on pourrait laisser passer des absurdités, les fameuses hallucinations de la machine. Cette menace est loin d'être immédiate, mais il faut en avoir une idée pour préférer un autre scénario bien plus vertueux.
Le bon scénario, à notre sens, est en effet celui du soignant augmenté. Comme le stéthoscope, comme l'électrocardiogramme, comme la radiologie - on parle de choses du siècle dernier, voire plus anciennes - l'IA constitue un outil supplémentaire pour les médecins et les équipes soignantes. Elle donne la possibilité de mieux connaître, de mieux comprendre le fonctionnement de nos organes et la manière de faire face à leur dysfonctionnement. Le professeur Loupy qualifiait l'IA de cognoscope, capable de rassembler des connaissances sur un patient, sur un mécanisme biologique et d'en tirer des recommandations. L'IA permettrait ainsi d'accélérer les prises en charge, de dépister et d'intervenir plus vite, d'affiner les diagnostics. Elle pourrait être une aide lorsque les ressources médicales et paramédicales font défaut. En ce sens, je rejoins ce qui a été dit sur les déserts médicaux. Des cabines de télémédecine connectées peuvent apporter sinon une solution, du moins un palliatif, à l'absence de médecin sur place.
Loin d'un techno-pessimisme qui est souvent de mise dans les débats publics, nous appelons à voir l'IA comme un outil de progrès sans céder à l'inverse au techno-enthousiasme béat, qui résulterait de stratégies de marketing bien rodées dont certaines firmes survendent les apports à notre société.
J'en viens maintenant aux quatre axes que nous avons identifiés pour une IA en santé efficace et juste : le premier, c'est développer une culture de l'IA en santé par la formation initiale et continue des soignants ; le deuxième, c'est accélérer l'accès des chercheurs et start-up aux données secondaires de santé ; le troisième est construire un cadre éthique robuste de l'IA en santé ; le quatrième vise à être capable de financer la course à l'IA.
Mme Anne Ventalon, rapporteure. - Le premier axe que nous avons identifié est donc développer une culture de l'IA en santé par la formation initiale et continue des soignants. Lors des auditions, on a vraiment entendu une unanimité sur le sujet. La formation est indispensable. Comme pour toute nouvelle technologie, son bon usage, voire son usage tout court, passe par une étape de prise en main par ses utilisateurs et ses bénéficiaires. Si l'informatique contemporaine se caractérise par d'importants efforts de fluidité et le souci du caractère très intuitif des interfaces hommes-machines, le fonctionnement de l'IA dans la santé doit être bien compris afin d'en tirer profit, mais aussi afin d'en mesurer les limites. La formation à l'intelligence artificielle devrait donc être intégrée au cursus universitaire pour les médecins, mais aussi les professions paramédicales. Pour adapter les personnels de santé déjà en poste, des efforts renforcés de formation continue à l'utilisation des outils d'IA devraient aussi être envisagés. Enfin, un nouveau métier d'opérateur de l'IA en santé pourrait voir le jour pour gérer la complexité et assurer une médiation entre les différents acteurs du système de santé, soignants, patients et producteurs de dispositifs médicaux numériques.
Le deuxième axe consiste à accélérer l'accès des chercheurs et start-up aux données secondaires de santé. L'accès aux données est une condition indispensable pour pouvoir développer des solutions de haut niveau fondées sur l'utilisation de l'intelligence artificielle. Cela est possible sans remise en cause fondamentale des grands principes de protection des données personnelles, en développant les méthodologies de référence (MR) dont le respect permet de se passer des procédures d'autorisation plus lourdes. Une part importante des délais d'accès ne résulte pas de verrous juridiques, mais de contraintes techniques. Il convient de faire adopter par le plus grand nombre de producteurs de données de santé des normes d'interopérabilité facilitant les croisements et de renforcer le rôle du Health Data Hub comme fédérateur des différentes bases de données. Enfin, des contrats types pourraient lever les verrous contractuels entre producteurs et utilisateurs de données, en définissant des normes de partage de la valeur.
M. Christian Redon-Sarrazy, rapporteur. - Le troisième axe est construire un cadre éthique robuste de l'IA en santé. La confiance dans l'IA de la part de l'ensemble des acteurs de la santé, patients comme professionnels, est conditionnée au respect des principes éthiques garantissant le caractère fiable et non discriminant du fonctionnement des IA mises à disposition pour notre santé, la protection des données personnelles de santé qui sont des données sensibles que l'on ne souhaite pas voir être exposées sur la place publique ou encore l'absence de délégation complète de la prise de décisions importantes à la machine. Patients comme soignants doivent pouvoir comprendre avec précision la portée et les limites de l'utilisation des solutions d'IA disponibles.
Les exigences éthiques doivent être intégrées dans les dispositifs d'IA dès leur conception. L'expression anglaise, c'est Ethics by design. Et les enjeux d'éthique doivent être intégrés eux aussi dans la formation des soignants à l'IA. Enfin, les exigences éthiques doivent trouver leur traduction juridique dans les textes et leur mise en application concrète. Le caractère dissuasif des sanctions prévues par l'AI Act européen, en cas de manquement des fournisseurs de services numériques à risque élevé à leurs obligations, c'est une amende de 35 millions d'euros ou de 7 % du chiffre d'affaires, ce qui constitue une forte incitation à placer la barre haut en matière d'éthique. Il conviendra toutefois que les instances nationales le contrôlent, en France avec la Cnil qui dispose de moyens renforcés d'investigation et d'expertise pour que la menace de sanction puisse jouer à plein.
Le dernier axe, c'est celui des moyens, c'est être capable de financer la course à l'IA. Dans le domaine de la santé comme dans les autres domaines, l'IA connaît un essor qui se traduit par la multiplication d'initiatives et d'expérimentations, parfois en ordre très dispersé. L'irruption de l'IA générative a donné un coup d'accélérateur aux investissements et contribue à faire évoluer très vite les technologies et leurs possibilités d'application. Cette phase expérimentale un peu foisonnante qui repose sur une multitude d'acteurs plus ou moins structurés, pourrait être suivie d'une phase de stabilisation qui ne laissera que quelques opérateurs sur le marché. Le rapport de la Commission de l'intelligence artificielle de mars 2024 alerte sur le risque de rater la marche et de dépendre in fine de firmes américaines ou chinoises. L'ambition d'un écosystème de l'IA en santé, peu dépendant de partenaires étrangers, passe par un investissement public demandé par la Commission de l'IA, mais aussi par l'accélération du projet de cloud sécurisé souverain, car nos données de santé, au même titre que nos données de sécurité ou nos données fiscales, ne sauraient être soumises au risque de transmission à une puissance étrangère.
Enfin, la course à l'IA ne trouvera un aboutissement concret pour les patients que si, au-delà des investissements initiaux, un modèle économique est trouvé pour financer les nouveaux outils par une tarification adaptée. Il s'agit là d'un sacré défi. Il s'agit de disposer de fonds au-delà de la seule phase de mise en route et de ce point de vue, une enveloppe dédiée au secteur hospitalier pourrait, sur le modèle du financement des missions d'intérêt général, favoriser l'acquisition et la maintenance de solutions logicielles performantes.
Merci pour votre attention sur un sujet complexe qui nous a passionnés. Comme vous le souhaitiez, madame la présidente, le document que nous vous présentons est assez ramassé mais complet malgré tout et je crois qu'il balaie un peu tous les enjeux.
Mme Anne Ventalon, rapporteure. - Je m'associe à ces propos. Avec ce sujet, nous sommes tous les deux sortis de notre zone de confort. C'est un beau défi parce qu'effectivement le sujet est complexe, mais il nous a permis d'avoir des échanges passionnants et de rencontrer des gens passionnés. Il est vrai que pour faire accepter l'intelligence artificielle, il faut la faire comprendre et savoir être didactique. C'est ce que nous avons tenté de faire avec ce rapport.
Mme Christine Lavarde, présidente. - Merci à vous deux. Effectivement, le cahier des charges est parfaitement rempli. Après vous avoir écoutés, notamment sur la façon dont l'IA pourrait permettre de lutter contre les déserts médicaux, j'ai compris que vous étiez plus en faveur du soignant augmenté que du robot médecin. Mais pour avoir expérimenté une fois la téléconsultation en cabine dans une pharmacie, j'ai eu le sentiment que si j'avais eu un robot médecin face à moi, j'aurais peut-être été mieux auscultée que par ce médecin en vidéo. Pour ce cas de figure assez précis des cabines de téléconsultation, on se situe quand même dans un environnement médical puisqu'elles sont installées dans des pharmacies où l'on a des professionnels capables d'analyser l'ordonnance qui sera émise après la téléconsultation. Est-ce que dans ce cas, on ne pourrait pas avoir des robots médecins ? Parce que finalement, quand on nous dit : « ouvrez grand la bouche, mettez ça dans l'oreille, mettez ça sur votre front... », c'est une donnée qu'on envoie et le robot serait, à mon avis, tout aussi capable de l'analyser que le médecin qui est de l'autre côté de la caméra. Cet exemple permet peut-être d'apporter une petite nuance à vos propos.
M. Jean-Jacques Michau. - C'est extrêmement intéressant. Vous avez parlé de souveraineté et d'investissement et aussi des États-Unis et de la Chine. Est-ce que le niveau national est suffisant pour investir dans l'IA ou est-ce qu'un niveau européen permettrait de disposer de davantage de moyens ? En écho à vos propos sur les territoires, l'intelligence artificielle sera-t-elle plutôt un réducteur d'inégalités ou au contraire, l'occasion d'accroître la santé à plusieurs vitesses ?
Mme Marie-Pierre Richer. - Merci pour ce rapport et d'avoir mis à notre portée ce sujet complexe. Vous parlez d'un métier d'opérateur en IA : avez-vous identifié des formations ? Sur combien d'années se feraient-elles ? Est-ce que ce métier existe déjà ailleurs qu'en France ? Ensuite, j'ai noté un délai moyen d'accès aux données de santé de 18 mois, plus long qu'aux USA et en Asie. Quel est-il dans ces pays ? Enfin, on parle beaucoup de logiciels d'IA, je pense notamment à la cancérologie et plus particulièrement au cancer du sein, où l'on sait que l'IA a permis des progrès considérables et des gains de temps pour les oncologues. Est-ce que cette technique est développée sur l'ensemble du territoire ? À quelle vitesse se développe-t-elle ? Je suppose qu'il y a des centres beaucoup plus avancés que d'autres.
Mme Patricia Demas. - Merci à nos deux rapporteurs qui nous permettent d'avoir accès à des sujets assez complexes. J'ai deux questions. La première relève de la sécurité des données et de la cybersécurité en matière d'IA : y a-t-il des garde-fous ? La seconde : est-il possible de contrarier un diagnostic de l'IA et à quel moment ? Est-ce bien prévu ?
M. Stéphane Sautarel. - Merci également pour le travail accompli. Il me semble qu'il se passe beaucoup de choses aux États-Unis, qui est sans doute le pays le plus en pointe sur le sujet. J'ai lu récemment que les diagnostics médicaux via l'IA y étaient opérationnels et très développés. Qu'en est-il dans notre pays ? J'ai une interrogation sur les domaines d'application de l'IA. Les statistiques de France Biotech que vous présentez dans le rapport semblent montrer qu'il y a des baisses dans certains domaines. Est-ce qu'il s'agit d'une baisse relative par rapport à l'ensemble des domaines ? Je pensais que tout était à la hausse et je suis surpris de voir que sur des sujets, uniquement de données type dossier médical, ou outils destinés aux payeurs, on n'était pas plus avancé, alors que cela pose moins de questions éthiques que d'autres sujets.
Mme Annick Jacquemet. - Merci chers collègues pour votre rapport et les explications très claires que vous nous avez fournies. Vous avez parlé de la redondance des soins. On évoque couramment un tiers de soins redondants, avec bien sûr les coûts de sécurité sociale qui vont avec. En quoi l'intelligence artificielle pourrait-elle intervenir et comment pourrait-elle intervenir ? La prescription étant le fait des médecins, quel est le lien possible ?
Mme Anne Ventalon, rapporteure. - Je commencerai par répondre à la question sur la lutte contre les déserts médicaux. Vous avez compris nos conclusions, la situation actuelle n'est pas satisfaisante. Développer la téléconsultation est une option même si, pour l'instant, les consultations restent dans le domaine du non-complexe, par exemple pour le renouvellement d'une ordonnance ou pour obtenir un diagnostic. Sur le médecin robot, on nous a même dit qu'il pouvait développer une empathie plus grande que certains humains. Cela nous a fait sourire mais nous avons retenu ce paramètre. En tout état de cause, on peut y recourir pour des activités simples. Pour des recherches ou des auscultations plus approfondies, le médecin robot n'est pas satisfaisant.
M. Christian Redon-Sarrazy, rapporteur. - Ce qui a été souligné parfois aussi, c'est le gain de temps. L'IA peut aussi, pour des consultations de base, permettre de dégager du temps pour le médecin. Après, quid de l'utilisation de ce temps dégagé ? Comment l'utilise-t-on pour une meilleure couverture médicale ? Il y a une première phase pendant laquelle l'IA peut procurer des gains, mais ensuite il faut que la communauté soit prête à les utiliser de manière mutualisée.
Mme Anne Ventalon, rapporteure. - Le gain de temps, c'est pour gagner en qualité de soins et permettre aux médecins d'avoir une approche plus humaine dans l'accompagnement des patients. À la question « peut-on contrarier le diagnostic ? », même aux États-Unis, l'IA relève encore de l'ordre de l'expérimentation. L'IA est un outil qui vient aider et accompagner le diagnostic.
M. Christian Redon-Sarrazy, rapporteur. - Les investissements qui pourraient être faits dans l'IA sont de plusieurs ordres. Dans le secteur de l'hôpital, il n'y a pas de pilotage national de projets d'IA. Certains groupements hospitaliers de territoire avancent plus ou moins vite. Ensuite, il y a les investissements dans les start-up qui émergent, les projets de recherche qui ont besoin d'être soutenus et qui pourraient nous donner des solutions un peu plus souveraines. On est confronté aujourd'hui à des systèmes d'IA entraînés sur des données de santé américaines parce que les applications sont développées aux États-Unis, donc sur des populations qui n'ont pas nécessairement les mêmes caractéristiques que les populations européennes. Mais dans tous les cas, l'échelle des investissements, c'est au moins l'échelle européenne, parce qu'on sait, dans l'IA comme dans tous les domaines de recherche, que la taille du marché français n'est pas suffisante. Il faut donc des plans de soutien massifs et coordonnés à l'échelle européenne.
Ce qui m'a marqué dans les auditions, c'est que l'on a des médecins très volontaristes, parfois très en avance, mais on a l'impression que certains avancent seuls. Le risque, c'est de voir se développer une certaine inégalité, pas nécessairement territoriale, mais liée à la performance d'un groupe de recherche, d'un CHU ou d'un écosystème autour de la santé. Il y a tout un travail de structuration à faire pour un déploiement massif de l'IA.
Mme Anne Ventalon, rapporteure. - La cybersécurité est un vrai sujet, c'est la condition essentielle pour avoir confiance en l'intelligence artificielle. L'audition avec le Health Data Hub a bien montré la nécessité de sécuriser au maximum les données, notamment dans les liens avec Microsoft. Et effectivement, on n'avancera pas tant qu'on n'aura pas la garantie d'avoir cette protection des données.
Sur le nouveau métier d'opérateur en IA, il est vrai qu'on a un discours de certains professionnels de santé qui craignent de se voir dépossédés de leur savoir médical. Mais il n'y a pas de de concurrence, c'est vraiment quelque chose qui doit venir en plus et qui reste à définir. Il y a toutefois cette volonté de former et de créer un nouveau métier pour coordonner toutes les données et les diffuser.
M. Christian Redon-Sarrazy, rapporteur. - Le besoin de formation est à tous les niveaux de la chaîne de soins, depuis le médecin généraliste qui va notamment orienter, jusqu'aux différentes spécialités ou procédures de soins qui, les unes après les autres, peuvent bénéficier de l'IA.
Le dossier médical partagé est essentiel et l'IA peut être très performante pour mieux l'alimenter avec, par exemple, l'analyse de comptes rendus divers et variés qui fera gagner du temps. Elle permettra aussi des gains financiers avec moins de doubles ou triples diagnostics et de prescriptions multiples. Mais cela nécessite une harmonisation des données et donc que les systèmes de données puissent se parler entre eux. L'IA peut avoir un rôle important dans sa capacité à croiser des données aujourd'hui entreposées dans des systèmes différents.
Une précision sur le délai d'accès aux données aux États-Unis, il peut être de quelques jours seulement, à comparer aux 18 mois évoqués pour la France.
M. Stéphane Sautarel. - J'observe que, dans le domaine de la santé, on retrouve une caractéristique qui avait été évoquée dans le rapport sur les services fiscaux et sociaux, c'est-à-dire l'importance des initiatives isolées, particulières, personnelles, par goût ou plutôt par absence de structuration ou de pilotage à une échelle plus globale.
M. Christian Redon-Sarrazy, rapporteur. - C'est un point de vigilance en effet. Nous avons d'ailleurs mentionné la nécessité d'une évaluation des différents outils. Une start-up avec un service marketing et commercial très pertinent peut proposer un outil a priori hyper intéressant, par exemple dans le domaine du dépistage du cancer du sein ou de l'interprétation des lames d'anatomopathologie. Pour le détourage des zones qui vont être traitées par radiothérapie, fait aujourd'hui manuellement par un médecin, l'IA serait très utile car elle permettrait précision quasi chirurgicale.
Il y a donc déjà de vraies avancées, mais encore faut-il qu'elles soient correctement réparties sur le territoire et que les réticences de certains professionnels soient levées.
Mme Anne Ventalon, rapporteure. - Au cours des auditions, nous avons bien senti l'écart entre ceux qui sont en avance et utilisent l'IA de manière efficace dans leur pratique quotidienne et ceux qui ont une attitude plus mesurée. Il est vrai aussi qu'ils ne font pas tous le même travail. Il y a une vraie diversité de situations.
Mme Marie-Pierre Richer. - Je connais une personne qui travaille sur des logiciels en lien avec le cancer du sein et qui se désolait que la France ne s'en empare pas plus rapidement alors que l'Allemagne, où elle est partie, lui semblait beaucoup moins rétive. Je pense à la perte de chance qu'il peut y avoir dans une telle situation car on gagne du temps en pouvant extrapoler la progression des cellules cancéreuses.
Mme Anne Ventalon, rapporteure. - On nous a aussi alertés sur ces fuites vers l'étranger.
Mme Christine Lavarde, présidente. - Approuvez-vous ce rapport et êtes-vous d'accord pour qu'il soit rendu public ?
La délégation adopte le rapport à l'unanimité et en autorise la publication.
Merci à nos rapporteurs auxquels je souhaite le même succès que pour le premier rapport de la délégation sur l'IA. Tous ceux qui l'ont lu en reparlent. Comme il est exactement dans la même veine, il devrait rencontrer lui aussi son public.