AMENDEMENT

Alinéa 4

Rédiger ainsi cet alinéa :

Les concepteurs d’un traitement algorithmique mentionné au premier alinéa s’assurent de la transparence du fonctionnement de l’outil pour ses utilisateurs.

La rédaction de l’alinéa 4 de l’article 11 du projet de loi dispose que la traçabilité des actions d’un traitement algorithmique est assurée et que les informations qui en résultent sont accessibles aux professionnels de santé concernés.

Les termes sont imprécis. Il n’est pas précisé à quoi correspond cette traçabilité, ni par qui elle est assurée.

D’après les auditions, il s’agit de garder trace des opérations effectuées par la machine, afin que les professionnels de santé, ayant accès aux informations, puissent a posteriori en reconstituer le raisonnement.

Il ne semble toutefois pas pertinent d’exiger que les professionnels de santé aient accès à la « traçabilité » de toutes les étapes, qui renvoie plutôt au domaine technique.

En revanche, il est opportun que le traitement algorithmique ne fonctionne pas comme une « boîte noire », c’est-à-dire que le professionnel de santé ne puisse pas expliquer pour quelles raisons le traitement est arrivé à un résultat donné.

Pour atteindre cet objectif, le présent amendement propose de clarifier la rédaction de l’alinéa 4 pour fixer aux concepteurs de tels traitements algorithmiques une obligation de transparence du fonctionnement du traitement pour le professionnel de santé.