AMENDEMENT

Alinéa 83, après la quatrième phrase

Insérer une phrase ainsi rédigée :

La France promeut au niveau multilatéral un traité encadrant l’élaboration et l’utilisation des systèmes d’armes létaux autonomes.

Selon la définition du Comité International de la Croix Rouge (CICR), le terme SALA inclut « tout système d’arme autonome dans ses fonctions critiques. Il s’agit d’un système d’arme capable de sélectionner (c’est-à-dire de rechercher, ou détecter, identifier, traquer, sélectionner) et d’attaquer (c’est-à-dire utiliser la force contre, neutraliser, endommager ou détruire) des cibles sans intervention d’une opératrice ou d’un opérateur humain. »

En décembre 2021, dans le cadre de la Convention sur certaines armes classiques (CCAC), les États ont manqué une opportunité d’assurer un contrôle humain significatif sur l’usage de la force par des robots tueurs ou systèmes d’armes létaux autonomes (SALA). Aucun mandat pour entamer des négociations sur un instrument juridiquement contraignant n’a été adopté, mais les discussions à l’ONU sur les systèmes d’armes autonomes ont favorisé ces 3 dernières années l'émergence d’une orientation politique autour d'une approche qui permettrait une réglementation voire une interdiction de ceux-ci sans contrôle humain. Si elle est loin d'être unanime, elle est un premier pas.

Pour autant, si la France a reconnu la nécessité d'un cadre pour maintenir le contrôle humain, elle ne semble pas souhaiter le rendre juridiquement contraignant. Cette position nous paraît insuffisante. Nous devons aller plus loin alors que certains pays sont en train de développer ces technologies, hors de toute contrainte. Il paraît aujourd'hui irréaliste d'en prôner une interdiction stricte du principe de ces armes, mais nous devons faire en sorte d’interdire ces SALA sans contrôle humain et règlementer leur élaboration et leur utilisation. Alors qu’une nouvelle course aux armements est engagée et que le Conseil de l’Europe souligne que « les puissances militaires qui n’investiraient pas dans le développement de cette technologie risqueraient alors d’être laissées pour compte », il apparaît nécessaire de défendre un cadre au niveau multilatéral. La France et l'Union européenne doivent agir en ce sens rapidement.

D’autant que de nombreuses questions éthiques se posent. Les débats actuels autour du développement à risque de l'Intelligence artificielle pour certaines de ses applications viennent l'illustrer. Le fait que les concepteurs de l’IA y prennent part au premier chef est révélateur. Si nous devons franchir des « sauts technologiques » nous ne pouvons pas pour autant en perdre la maîtrise et faire avancer le droit en même temps que l’innovation. Tel est le sens de cet amendement.