AMENDEMENT

présenté par

Rejeté

MM. DURAIN et LOZACH, Mmes FÉRET, de LA GONTRIE, Sylvie ROBERT et LUBIN, MM. KANNER et BOURGI, Mme HARRIBEY, MM. KERROUCHE, LECONTE, MARIE, SUEUR, ASSOULINE, ANTISTE, CHANTREL et MAGNER, Mme MONIER, M. STANZIONE, Mmes VAN HEGHE et CONCONNE, M. FICHET, Mme JASMIN, M. JOMIER, Mmes LE HOUEROU, MEUNIER, POUMIROL, ROSSIGNOL

et les membres du groupe Socialiste, Écologiste et Républicain

ARTICLE 7

Alinéa 13

Après cet alinéa, insérer un alinéa ainsi rédigé :

L’utilisation des modèles conçus lors de la phase d’apprentissage sont conditionnée à l’obtention d’un niveau de performance suffisamment élevé à son issue, tant en comparaison de l’état de l’art qu’au regard des besoins des équipes opérationnelles.

Objet

Si l’article 7 du projet de loi insiste sur la fiabilité des données, l’objectivité et la pertinence des critères d’apprentissage ainsi que sur la stricte nécessité des méthodes appliquées, il convient de compléter ces garanties en prévoyant que les modèles conçus lors de la phase d’apprentissage sont conditionnés à l’obtention d’un niveau de performance suffisamment élevé à son issue, tant en comparaison de l’état de l’art qu’au regard des besoins des équipes opérationnelles.

En particulier, la CNIL recommande que ce niveau de performance soit évalué au regard de l’impact potentiel pour les personnes que peuvent avoir par exemple un faux positif ou un faux négatif à la sortie du traitement algorithmique.