AMENDEMENT

Après l’alinéa 214

Insérer un alinéa ainsi rédigé :

Le traitement des images recueillies par des logiciels de reconnaissance faciale est interdit.

Cet amendement souhaite exclure explicitement le traitement des images issues des captations des drônes par des logiciels de reconnaissance faciale, ces derniers faisant craindre des risques de surveillance de masse de la population.

Les débats suscités par cette technologie ne font que grandir : en janvier 2020, la prépublication du livre blanc sur l’intelligence artificielle de la Commission européenne envisageait la mise en place d’une interdiction temporaire des technologies de reconnaissance faciale dans divers secteurs.

Le présent amendement est directement inspiré des travaux de notre collègue députée Paula Forteza et des écologistes de l’Assemblée nationale qui elle souhaitait un moratoire sur l’usage de la reconnaissance faciale pour identifier les individus sans le consentement préalable et éclairé des intéressés, et ce jusqu’à ce que des garanties suffisantes soient établies en termes de sécurité et de libertés fondamentales.

Les données faciales sont des données biométriques sensibles et constituent des informations irrévocables – à l’inverse de nos mots de passe ou adresses mails – et sont, par définition, uniques et inchangeables en cas de vol ou de compromission. Une protection accrue sur ces données doit être mise en place, notamment quant aux personnes ayant un possible accès à ces données. Cela soulève donc des enjeux cruciaux en matière de libertés publiques, d’éthique et de consentement.

Des interrogations, doutes et peurs découlent en partie de la non-maîtrise de cette technologie et de certains usages débridés par des entités privées et publiques. D’une part, la reconnaissance faciale n’est pas à ce jour une technologie totalement mûre et possède encore de nombreux défauts techniques. Il existe notamment des biais lorsqu’il s’agit des minorités ethniques, des femmes et des jeunes. D’autre part, cette technologie peut engendrer des dérives mettant en danger nos libertés et notre démocratie, comme le démontre les cas de répression des manifestations à Hongkong ou la surveillance de la minorité ouïghoure par la Chine. Le déploiement d’un système général de reconnaissance faciale peut mettre fin à toute possibilité d’anonymat, allant à l’encontre de notre conception de la liberté de circulation et d’expression.

En tout état de cause, l’implémentation de plus en plus massive des technologies de reconnaissance faciale dans les espaces publics génère des risques pour la sécurité personnelle, la vie privée, les libertés individuelles et collectives et la protection des données personnelles majeures

La CNIL, le Gouvernement ainsi que le contrôleur européen de la protection des données avaient appelé à un débat à la hauteur des enjeux. Pourtant rien dans le CNR flambant neuf. Il pourrait être envisagé d’organiser une « Convention citoyenne sur la place des nouvelles technologies dans notre société », à l’image de celle organisée sur le climat. Un tel moment démocratique permettrait de mieux cerner les attentes de l’ensemble de la société civile en matière de numérique, de relation de confiance avec les forces de sécurité pour co-construire un cadre normatif approprié et de mener une analyse d’impact rigoureuse sur la reconnaissance faciale.

La reconnaissance faciale ne doit pas être considérée comme une technologie d'identification biométrique comme les autres. Le RGPD garantit aux citoyen.ne.s européen.ne.s « le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, y compris le profilage » (Art. 22), selon la définition du profilage inscrite dans l’article 4. L’usage de la reconnaissance faciale, notamment de façon automatisée, entre en contradiction avec l’article 5 du RPGD (principes de licéité, loyauté, transparence). Parce que la reconnaissance faciale appartient à la catégorie plus large des techniques biométriques, elle entre également en contradiction avec l’article 9 interdisant « le traitement des données biométriques aux fins d’identifier une personne physique de manière unique ».

Les amendements similaires du groupe écologiste, solidarité et territoires sur le sujet déjà déposés en ce sens lors du débat sur la sécurité globale avaient malheureusement recueilli un avis négatif du gouvernement.

Au vu des annonces du ministre porteur du projet sur ces questions lors de l'audition de septembre où il déclarait “ Je suis opposé à la reconnaissance faciale”, nous espérons pouvoir inscrire dans la feuille de route de son ministère cette avancée.