En commission

Projet de loi Bioéthique

Commission spéciale sur la bioéthique

(1ère lecture)

(n° 63 )

AMENDEMENT

présenté par

M. HENNO, rapporteur

ARTICLE 11

Consulter le texte de l'article ^

Alinéa 4

Rédiger ainsi cet alinéa :

Les concepteurs d’un traitement algorithmique mentionné au premier alinéa s’assurent de la transparence du fonctionnement de l’outil pour ses utilisateurs.

Objet

La rédaction de l’alinéa 4 de l’article 11 du projet de loi dispose que la traçabilité des actions d’un traitement algorithmique est assurée et que les informations qui en résultent sont accessibles aux professionnels de santé concernés.

Les termes sont imprécis. Il n’est pas précisé à quoi correspond cette traçabilité, ni par qui elle est assurée.

D’après les auditions, il s’agit de garder trace des opérations effectuées par la machine, afin que les professionnels de santé, ayant accès aux informations, puissent a posteriori en reconstituer le raisonnement.

Il ne semble toutefois pas pertinent d’exiger que les professionnels de santé aient accès à la « traçabilité » de toutes les étapes, qui renvoie plutôt au domaine technique.

En revanche, il est opportun que le traitement algorithmique ne fonctionne pas comme une « boîte noire », c’est-à-dire que le professionnel de santé ne puisse pas expliquer pour quelles raisons le traitement est arrivé à un résultat donné.

Pour atteindre cet objectif, le présent amendement propose de clarifier la rédaction de l’alinéa 4 pour fixer aux concepteurs de tels traitements algorithmiques une obligation de transparence du fonctionnement du traitement pour le professionnel de santé.