B. LE SCÉNARIO PRÉFÉRÉ DU SOIGNANT AUGMENTÉ
Un autre scénario, plus satisfaisant mais aussi plus probable, est celui du soignant augmenté. L'IA constituerait un outillage supplémentaire. Le Pr Alexandre Loupy rappelait, lors de son audition, que les médecins n'ont jamais cessé d'inventer des outils pour améliorer leur pratique : stéthoscope, électrocardiogramme, radiographies. L'IA est un outil supplémentaire de connaissance, une sorte de « cognoscope » capable de faire des synthèses que l'on ne peut plus faire nous-mêmes du fait du trop-plein d'informations.
Mais comme le faisait remarquer le Pr Bernard Nordlinger, les outils d'IA proposant de faire une synthèse diagnostique complète n'ont pas encore fait leurs preuves. Les soignants conservent donc toute leur place pour rassembler les informations venant de sources disparates. Par ailleurs, la relation entre un médecin et un patient reste incontournable pour collecter des informations importantes qui peuvent être hors du champ de vision d'une IA.
Pour que l'utilisation de l'IA comme outil contribue à l'amélioration de la santé, il est important que ses mécanismes soient compris par l'ensemble des parties prenantes, médecins comme patients. L'explicabilité constitue un impératif éthique qui va au-delà de la simple exigence de transparence algorithmique. Il ne s'agit pas d'atteindre une explicabilité complète, d'ailleurs inatteignable avec les technologies d'IA génératives du fait de leur fonctionnement même, mais de comprendre la manière dont les IA déployées parviennent à fournir des résultats. L'enjeu est de pouvoir connaître les biais possibles, écarter les résultats douteux, garder une distance critique, pour que l'IA reste au final un outil au service d'une prise de décision demeurant dans les mains des médecins.
L'explicabilité est importante pour les soignants, mais elle l'est aussi pour les patients qui doivent pouvoir effectuer des choix éclairés sur leur prise en charge.
Cette exigence d'explicabilité vaut dans les activités cliniques, mais aussi dans le domaine de la recherche. Ainsi, en recherche, les IA génératives sont capables de produire des synthèses mais ne peuvent pas fournir une bibliographie expliquant d'où elles tirent leurs informations. Pire, lors de son audition, la Pr Brigitte Seroussi indiquait qu'une IA pourrait être trompée par de fausses publications, sans avoir les moyens de repérer que les données d'entrée posent problème. Lors de la crise du covid, plusieurs publications erronées ont été publiées dans des revues scientifiques avant d'être retirées. Même des éditeurs de référence comme The Lancet ont été touchés.
Dans ces conditions, il serait dangereux de faire du soignant un simple opérateur de l'IA, dépourvu de capacités de contrôle et n'exerçant plus que formellement sa fonction de décision. À l'inverse, le soignant augmenté de demain aura besoin d'outils d'IA qui l'aident dans sa pratique, lui permettent de gagner du temps, de disposer d'informations plus complètes et fiables pour poser les meilleurs diagnostics et proposer les meilleurs traitements à chaque patient.