B. LE CADRE MULTILATÉRAL EN CONSTRUCTION
1. La contribution multiforme mais encore inachevée de l'Organisation des Nations unies (ONU)
L'Organisation des Nations unies (ONU) souhaite s'associer avec l'OCDE pour avancer sur le chemin d'une régulation mondiale de l'IA396(*), même si elle a semblé adopter une position prudente quant à la gouvernance globale de l'IA jusqu'ici, dans le cadre de son mandat en faveur de la paix et de la sécurité dans le monde. Il s'agit surtout pour elle de trouver des consensus au sein de la communauté internationale et de voter des résolutions qui posent un cadre non contraignant en vue du respect de ces consensus, sans aller jusqu'à une régulation réelle de l'IA par le droit international. Lors du déplacement de vos rapporteurs aux États-Unis, la représentante du bureau de liaison ONU-Unesco a confirmé que les institutions onusiennes n'en sont pas encore au stade de la construction effective d'une organisation internationale pour la gouvernance de l'IA. Une avancée importante vient cependant d'être faite très récemment avec le Pacte numérique mondial de septembre 2024.
Avant cela, l'IA n'avait pas été écartée du champ de travail de l'ONU puisque l'on dénombrait environ 300 projets en lien avec l'IA dans l'ensemble de l'ONU et de ses institutions.
La première de ces contributions est celle de l'Organe consultatif de haut niveau sur l'intelligence artificielle (High-Level Advisory Body on AI) mis en place par le Secrétaire général des Nations unies en octobre 2023.
Le rapport provisoire de ce groupe multipartite a été publié en décembre 2023 sous le titre « Interim Report : Governing AI for Humanity », suivi d'un rapport définitif en septembre 2024 : « Governing AI for Humanity »397(*). Ce dernier a été rendu public à l'occasion du Sommet sur le Futur qui s'est tenu les 22 et 23 septembre 2024 au siège de l'ONU à New York en présence de plus de 130 chefs d'État et de gouvernement et qui a surtout été l'occasion d'adopter un Pacte numérique mondial et d'annoncer le lancement d'un travail en commun entre l'ONU et l'OCDE afin de renforcer la gouvernance mondiale de l'IA.
Un autre aspect est celui de la place accordée aux droits de l'homme. En novembre 2023, le Haut-Commissaire des Nations unies aux droits de l'homme, Volker Türk, appelait ainsi à porter la plus grande attention aux risques liés à l'IA, en insistant sur son impact en matière de droits humains. Dans cette déclaration, il proposait des évaluations des modèles d'IA dans les domaines dans lesquels les technologies pourraient avoir des effets significatifs, affirmant que tout projet de gouvernance mondiale de l'IA devrait prendre en compte les droits de l'homme398(*).
L'Assemblée générale des Nations unies a apporté sa contribution à la discussion internationale avec le vote de plusieurs résolutions appelant à la coopération pour garantir la sécurité des systèmes d'IA.
Le 21 mars 2024, elle a adopté une première résolution, soutenue par plus de 120 États membres, dont la France et surtout les États-Unis, à la tête de l'initiative. La résolution vise à « saisir les possibilités offertes par des systèmes d'intelligence artificielle sûrs, sécurisés et dignes de confiance pour le développement durable »399(*). Non contraignante, elle préconise une approche de régulation axée sur la sécurité, le respect des droits de la personne et des libertés fondamentales et l'inclusivité. Elle souligne l'importance de diffuser partout dans le monde les capacités de l'IA, en particulier dans les pays en développement. Elle affirme également que les droits de l'homme doivent être respectés tout au long de la chaîne de valeur de l'IA, en ligne et hors ligne, demandant à tous les États membres de s'abstenir ou de cesser d'utiliser des systèmes d'IA contraires au droit international des droits de l'homme, ou qui présentent un risque pour ces derniers. L'Assemblée générale considère que les systèmes d'IA sont des outils qui peuvent être mobilisés par les États pour répondre aux objectifs de développement durable 2030.
Dans le même temps, elle souligne les risques potentiels des technologies d'IA dans les domaines de la vie privée, des données personnelles ou encore du droit d'auteur, ainsi que les risques de biais induits par l'IA. Aussi, elle invite à prendre des mesures d'évaluation et de gouvernance des modèles, en promouvant des modèles sûrs, sécurisés et dignes de confiance.
L'Assemblée générale des Nations unies a poursuivi sa réflexion avec le vote le 1er juillet 2024 d'une autre résolution visant à « intensifier la coopération internationale en matière de renforcement des capacités dans le domaine de l'intelligence artificielle »400(*). Initiée par la Chine, cette résolution poursuit un objectif spécifique de solidarité internationale afin de permettre aux États membres de combler leurs lacunes éventuelles en termes de développement de l'IA. Elle vise à favoriser une coopération étroite en matière d'IA en encourageant davantage le partage de connaissances, les transferts de technologie, la formation et des recherches collaboratives au sein de la communauté internationale. La résolution demande aux États membres de mettre en place autant que possible des plans de renforcement de leurs capacités souveraines dans le cadre de leurs stratégies nationales relatives à l'IA.
Sur un autre aspect, en novembre 2023, la commission sur le désarmement et la sécurité internationale de l'Assemblée générale des Nations unies a adopté une résolution contre les armes létales autonomes401(*).
Le Pacte numérique mondial, adopté en septembre 2024 par les participants au Sommet sur le Futur402(*), vingt ans après le Sommet mondial des Nations unies sur la société de l'information, trace une feuille de route pour une coopération numérique à l'échelle mondiale poursuivant à la fois l'objectif d'exploiter l'immense potentiel des technologies numériques et celui de combler les fractures numériques existantes.
Non contraignant, ce Pacte numérique mondial propose un premier cadre global préparatoire à une gouvernance mondiale des technologies numériques et de l'intelligence artificielle. Il en définit les objectifs, les principes, les engagements et les actions permettant de développer un avenir numérique ouvert, libre et sûr pour tous, en soulignant les avantages que les technologies numériques apportent à l'humanité.
Le Pacte, qui a bénéficié de l'aide de l'UE et pour lequel la Commission européenne s'est fortement investie403(*), se déclinera à travers :
- un comité scientifique international indépendant sur l'IA pour promouvoir la compréhension scientifique (la question du rôle futur de l'Organe consultatif de haut niveau sur l'intelligence artificielle au sein de l'ONU est donc posée) ;
- un dialogue mondial sur la gouvernance de l'IA impliquant les gouvernements des États membres et toutes les parties prenantes concernées, sera lancé en marge des conférences et réunions pertinentes des Nations unies ;
- l'engagement des États membres à prendre plusieurs mesures d'ici 2030, telles que le développement de mécanismes de financement et d'incitations pour connecter les 2,6 milliards de personnes ne bénéficiant pas d'Internet, l'établissement de garanties pour prévenir et traiter tout impact négatif sur les droits de l'homme découlant de l'utilisation des technologies numériques émergentes et la fourniture et la facilitation de l'accès à des informations scientifiques indépendantes pour lutter contre la désinformation.
2. Le travail spécifique de l'Organisation des Nations unies pour l'éducation, la science et la culture (Unesco)
Dans les domaines de la science, de la culture et de l'innovation, qui sont le coeur de ses compétences, l'Unesco, a initié plusieurs réflexions en matière d'intelligence artificielle404(*). Pour rester dans son champ de compétences, l'Unesco a principalement proposé la définition de règles éthiques, d'application large. Ainsi, Gabriela Ramos, sous-directrice générale pour les sciences sociales et humaines de l'Unesco affirme : « Dans aucun autre domaine, la boussole éthique n'est plus pertinente que dans celui de l'intelligence artificielle ».
Un travail préliminaire a été réalisé en 2019 par sa Commission mondiale d'éthique des connaissances scientifiques et des technologies (COMEST)405(*).
Puis l'Unesco a publié le 23 novembre 2021 ses recommandations éthiques en matière d'intelligence artificielle, adoptées par 193 pays406(*). Dix principes éthiques, non contraignants, assez proches de ceux préconisés par l'ONU, ciblent les systèmes d'IA par rapport aux domaines centraux de l'Unesco : éducation, science, culture, communication et information.
Pour permettre la mise en oeuvre concrète de ces recommandations éthiques, une méthodologie a été mise à la disposition des États407(*) (appelée « méthode d'évaluation de l'état de préparation ») et une autre a été préparée spécifiquement pour les entreprises408(*) (appelée « évaluation de l'IA éthique »). Un accord a été signé le 5 février 2024 lors du deuxième Forum mondial de l'Unesco sur l'IA par huit entreprises du secteur numérique et Audrey Azoulay, directrice générale de l'Unesco409(*).
Dans le cadre de la Semaine de l'apprentissage numérique qui s'est tenue à Paris en septembre 2023, l'Unesco a publié un Guide pour l'IA générative dans l'éducation et la recherche410(*), qui présente les technologies d'IA générative et les différents modèles actuellement disponibles. Il propose des recommandations pour encadrer ces technologies à la lumière de principes éthiques en promouvant l'inclusion et l'équité. Il met l'accent sur une approche centrée sur l'humain, en prônant surtout une vigilance sur les usages de l'IA dans les contextes éducatifs, ces usages devant être éthiques, sûrs, justes et dotés de sens. Il propose des mesures pour intégrer de manière responsable l'IA dans les activités d'enseignement, d'apprentissage et de recherche, notamment avec une explication pédagogique des technologies d'IA générative, une présentation de leurs enjeux éthiques et politiques et de leurs perspectives d'encadrement. Le rapport fournit des exemples d'usages de l'IA générative apportant des bénéfices pour la pensée critique ainsi que pour la créativité dans l'éducation et la recherche, tout en en atténuant les risques lors de la conception de programmes, dans l'enseignement et les activités d'apprentissage.
À la suite de ces recommandations, l'Unesco a créé en février 2024, en partenariat avec d'autres institutions comme l'Institut Alan Turing ou l'Union internationale des télécommunications (UIT), un Observatoire international de l'éthique et de la gouvernance de l'intelligence artificielle411(*) (en anglais Global AI Ethics and Governance Observatory). Sur la base des recommandations de 2021, l'observatoire a pour objectif de fournir aux parties prenantes des ressources pour discuter des dilemmes éthiques liés à l'IA qui se présentent à eux, ainsi que de leurs implications sociétales.
3. Les Principes pour l'IA du G20
En relation avec l'ONU et l'Unesco, le G20 - qui représente 85 % de l'économie mondiale et 80 % de la population mondiale - a adopté, lors du sommet d'Osaka de 2019, des « Principes pour l'IA », qui reprennent les priorités fixées par l'OCDE412(*). Depuis, le G20 a mis l'intelligence artificielle à l'ordre du jour de chacune de ses rencontres.
Le sommet du G20 de Rio de Janeiro des 18 et 19 novembre 2024, est l'occasion de poursuivre la discussion sur les principes de l'IA et sur les moyens par lesquels le G20 peut contribuer à la réflexion internationale sur l'IA, en intégrant la dimension du développement, de la fracture numérique mondiale et de la justice sociale, à laquelle le Brésil est attaché413(*). Le groupe de travail sur l'économie numérique du G20 a d'ailleurs organisé en avril 2024 une conférence sur « l'intelligence artificielle pour le développement durable et la réduction des inégalités ».
* 396 L'ONU semble avoir ouvert un dialogue constructif avec l'OCDE ainsi qu'avec le G20 mais elle reste étrangère aux travaux conduits dans les cadres du G7 et du PMIA/GPAI qui seront évoqués plus loin.
* 397 Cf. les liens vers ces deux rapports des Nations unies sur l'IA et sa gouvernance : https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pdf ainsi que https://www.un.org/sites/un2.un.org/files/governing_ai_for_humanity_final_report_en.pdf
* 398 Cf. l'article, « Volker Türk appelle à une gouvernance attentive aux risques liés à l'intelligence artificielle et mettant l'accent sur les droits humains », 2023, OHCHR : https://www.ohchr.org/fr/statements-and-speeches/2023/11/turk-calls-attentive-governance-artificial-intelligence-risks
* 399 Résolution 78/49 du 21 mars 2024, « Saisir les possibilités offertes par des systèmes d'intelligence artificielle sûrs, sécurisés et dignes de confiance pour le développement durable » : https://documents.un.org/doc/undoc/ltd/n24/065/93/pdf/n2406593.pdf
* 400 Résolution 78/311 du 1er juillet 2024, « Intensifier la coopération internationale en matière de renforcement des capacités dans le domaine de l'intelligence artificielle » : https://documents.un.org/doc/undoc/gen/n24/197/27/pdf/n2419727.pdf
* 401 Communiqué de la commission sur le désarmement et la sécurité internationale de l'Assemblée générale des Nations unies, le 1er novembre 2023, « First Committee Approves Resolution on Lethal Autonomous Weapons, as Speaker Warns “An Algorithm Must Not Be in Full Control of Decisions Involving Killing” » : https://press.un.org/en/2023/gadis3731.doc.htm
* 402 Cf. la présentation du pacte sur cette page : https://www.un.org/techenvoy/global-digital-compact
* 403 Communiqué de la Commission européenne : https://digital-strategy.ec.europa.eu/en/news/united-nations-members-adopted-global-digital-compact-shaping-safe-and-sustainable-digital-future
* 404 Unesco, 2019, « International conference on Artificial intelligence and Education, Planning education in the AI Era : Lead the leap: Final report » ; Pedró, F., Subosa, M., Rivas, A., & Valverde, P., 2019, « Artificial intelligence in education: Challenges and opportunities for sustainable development » ; Miao, F., & Holmes, W., 2020, « International Forum on AI and the Futures of Education,developing competencies for the AI Era », Synthesis report ; ou encore Miao, F., Wayne Holmes, Ronghuai, H., & Hui, Z., 2021, « AI and education: Guidance for policy-makers ».
* 405 COMEST, 2019, « Étude préliminaire sur l'Éthique de l'intelligence artificielle » : https://unesdoc.unesco.org/ark:/48223/pf0000367823_fre
* 406 Unesco, 23 novembre 2021, « Recommandations sur l'éthique de l'intelligence artificielle » : https://unesdoc.unesco.org/ark:/48223/pf0000381137_fre
* 407 Cf. la méthodologie pour les États proposée au lien suivant :
* 408 Cf. la méthodologie pour les entreprises proposée au lien suivant : https://www.unesco.org/en/articles/ethical-impact-assessment-tool-recommendation-ethics-artificial-intelligence
* 409 Il s'agit de GSMA, INNIT, Lenovo Group, LG AI Research, Mastercard, Microsoft, Salesforce et Telefonica, cf. le lien suivant : https://www.unesco.org/fr/articles/ethique-de-lia-8-geants-de-la-tech-sengagent-appliquer-la-recommandation-de-lunesco
* 410 Cf. le guide publié en septembre 2023 par l'Unesco sur l'IA dans l'éducation et la recherche : https://www.unesco.org/fr/articles/orientations-pour-lintelligence-artificielle-generative-dans-leducation-et-la-recherche
* 411Cf. l'article du 6 février 2024, « Unesco launches Global AI Ethics and Governance Observatory at the 2024 Global Forum on the Ethics of Artificial Intelligence », in Digital Skills & Jobs Platform : https://digital-skills-jobs.europa.eu/en/latest/news/unesco-launches-global-ai-ethics-and-governance-observatory-2024-global-forum-ethics
* 412 La croissance inclusive, le développement durable et le bien-être ; des valeurs centrées sur l'humain et l'équité ; la transparence et l'explicabilité ; la robustesse, la sécurité et la sûreté ; la responsabilité. Cf. cet article du 8 juin 2019, « G20 ministers agree on guiding principles for using artificial intelligence », Japan Times, https://www.japantimes.co.jp/news/2019/06/08/business/g20-ministers-kick-talks-trade-digital-economy-ibaraki-prefecture/
* 413 Cf. la note du think tank américain Center for AI and Digital Policy, « G20 and Artificial Intelligence » : https://www.caidp.org/resources/g20