Question de Mme SILVANI Silvana (Meurthe-et-Moselle - CRCE-K) publiée le 13/02/2025
Mme Silvana Silvani attire l'attention de Mme la ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle et numérique, chargée de l'intelligence artificielle et du numérique sur l'aggravation des discriminations dans le recrutement liée à l'utilisation actuelle des algorithmes et de l'intelligence artificielle (IA).
À l'occasion du sommet pour l'action sur l'intelligence artificielle, des 10 et 11 février 2025, chefs d'État, entreprises et experts se réunissent pour examiner les avancées technologiques de l'IA et leurs implications à grande échelle. Cet événement constitue une opportunité majeure pour réfléchir aux usages responsables de l'intelligence artificielle. Alors que ces technologies - qui s'avèrent vertueuses dans de nombreux cas - progressent rapidement, leur utilisation de plus en plus fréquente engendre toutefois de nombreux défis. C'est le cas en particulier dans le domaine du travail et plus spécifiquement en ce qui concerne la discrimination dans les processus de recrutement.
Les études menées ces dernières années montrent que les discriminations à l'embauche ne sont pas un phénomène nouveau. Toutefois, l'utilisation non encadrée des algorithmes dans les processus de recrutement aggrave ces discriminations préexistantes. En s'appuyant sur des données historiques, des mots-clés et des critères de sélection biaisés, les algorithmes reproduisent et amplifient de manière consciente ou inconsciente les inégalités de genre, raciales ou sociales qui ne reflètent pas et de conséquence écartent la diversité des compétences, des qualifications et des expériences. Or, contrairement à un recruteur humain, une intelligence artificielle n'est pas en mesure de contextualiser un parcours, de percevoir un potentiel ou d'ajuster son jugement. Elle applique mécaniquement des règles prédéfinies qui, biaisées, conduisent à l'exclusion systématique de certains profils, sans possibilité de réévaluation ou d'adaptation aux réalités individuelles.
Aujourd'hui, l'industrie technologique demeure majoritairement masculine, ce qui a des répercussions directes sur la manière dont les algorithmes sont conçus. Les biais cognitifs des développeurs influencent la programmation et les critères de sélection adoptés par les algorithmes, souvent sans qu'ils en aient pleinement conscience. En conséquence, les systèmes d'IA peuvent favoriser, même involontairement, des profils correspondant à des normes masculines préétablies. Ce phénomène parmi tant d'autres, met en évidence l'importance d'une approche plus inclusive dans la conception des algorithmes et la nécessité d'une supervision humaine pour détecter et corriger ces biais avant leur déploiement.
L'utilisation non transparente et non régulée de l'intelligence artificielle dans les processus de recrutement menace plusieurs principes du droit national et international, notamment l'article L. 1132-1 du code du travail, qui prohibe la discrimination à l'embauche, ainsi que la réglementation générale sur la protection des données (RGPD), qui impose des règles strictes concernant la collecte et la protection des données personnelles.
Elle souhaite ainsi savoir quelles mesures le Gouvernement envisage de prendre pour encadrer l'utilisation de l'IA dans les processus de recrutement, afin d'assurer que ces technologies d'innovation ne renforcent pas les discriminations existantes et qu'elles contribuent au contraire à un recrutement plus équitable, respectueux des principes d'égalité et de non-discrimination.
- page 565
Transmise au Ministère auprès de la ministre du travail, de la santé, de la solidarité et des familles, chargé du travail et de l'emploi
Réponse du Ministère auprès de la ministre du travail, de la santé, de la solidarité et des familles, chargé du travail et de l'emploi publiée le 17/04/2025
L'intelligence artificielle (IA) constitue un levier pour accroître la productivité des entreprises et son essor doit être accompagné par le dialogue social pour construire une IA de confiance qui contribuera à passer à une logique collective et accélérera la diffusion de l'IA dans les entreprises. Néanmoins, son utilisation engendre également des risques, en particulier l'aggravation des discriminations dans le cadre du processus de recrutement. Le Gouvernement est particulièrement attentif vis-à-vis de l'émergence de ces enjeux. La législation en vigueur prévoit bien un principe général de non-discrimination dans la procédure de recrutement (article L. 1132-1 du code du travail). En outre, il se déduit de l'article L. 1121-1 du code du travail que certaines informations ne peuvent pas être collectées auprès du candidat, dans la mesure où leur connaissance par le recruteur, même si elle peut s'avérer utile, est disproportionnée par rapport à l'évaluation des compétences. En outre, la charge de la preuve est aménagée pour les candidats à un emploi qui s'estimeraient discriminés (article L. 1134-1 du code du travail). Par ailleurs, le droit national évoluera prochainement pour encadrer l'utilisation de l'IA, des algorithmes et de leur impact sur les travailleurs sous l'impulsion des normes européennes (notamment la directive (UE) 2024/2831 du Parlement européen et du Conseil du 23 octobre 2024 relative à l'amélioration des conditions de travail dans le cadre du travail via une plateforme). Enfin, le règlement européen du 13 juin 2024 sur l'intelligence artificielle, qui vise à favoriser un développement et un déploiement responsables de l'intelligence artificielle dans l'Union européenne, est entré en vigueur le 1er août 2024. L'article 5 de ce règlement précise les pratiques interdites en matière d'IA et liste notamment l'interdiction de porter atteinte à l'aide d'une IA à la capacité des personnes ou d'un groupe de personnes à prendre une décision éclairée. L'annexe III de ce même règlement, qui liste les systèmes d'IA à haut risque, mentionne les « systèmes d'IA destinés à être utilisés pour le recrutement ou la sélection de personnes physiques, en particulier pour publier des offres d'emploi ciblées, analyser et filtrer les candidatures et évaluer les candidats ». Certaines dispositions sont applicables depuis le 2 février 2025. Dans les relations de travail, c'est notamment le cas de l'interdiction de l'utilisation de l'IA pour la reconnaissance des émotions sur le lieu de travail, comme l'ont précisé les lignes directrices de la Commission européenne publiées le 6 février 2025. Le Gouvernement sera attentif à ce que l'IA n'aggrave pas les discriminations existantes, mais soit un levier d'équité dans l'emploi.
- page 1969
Page mise à jour le