Convention sur certaines armes classiques
11 principes sur les systèmes d’armes létaux autonomes
Depuis 2014, dans le cadre de la Convention sur certaines armes classiques (CCAC), sous l’égide du Bureau des Affaires de Désarmement des Nations Unies(ONUDA), des discussions ont été lancées, donnant lieu à la production de plusieurs textes de reflexion et de préconisations sur l’utilisation des systèmes d’armes létaux autonomes (SALA), plus couramment appelés « robots tueurs ».
« Les SALA sont des armes capables d’identifier, d’engager et de neutraliser une cible sans aucune intervention humaine. »
En 2019, à l’initiative de la France et de l’Allemagne, à travers l’Alliance pour le multiralisme, 11 principes [1] sur les systèmes d’armes létaux autonomes ont été affirmés.
« Le droit international humanitaire doit s’appliquer » à ces systèmes, la décision d’en faire usage doit toujours « relever d’une responsabilité humaine », les États doivent examiner au stade de leur conception « la licéité » des armes nouvelles qu’ils développent ou acquièrent, pas de « systèmes anthropomorphisés », une attention est portée au risque de « piratage » ou d’usurpation de données, au « risque d’acquisition par des groupes terroristes » et au « risque de prolifération »...
On ne se dirige donc certainement pas vers l’établissement d’une politique internationale d’interdiction de ces technologies militaires.
Certains états - la Chine, Israël, la Corée du Sud, la Russie, le Royaume-Uni ou encore les États-Unis [2]- « développent et déploient déjà les précurseurs d’armes totalement autonomes, à l’instar des drones militaires qui peuvent être pilotés à distance par des êtres humains ».
La Corée du Sud a déjà déployé le long de la frontière intercoréenne un « robot sentinelle » qui peut repérer des cibles et décider seul de tirer.
Un petit nombre de pays dont le secteur militaire est hautement avancé — notamment les États-Unis, la France, l’Inde, Israël et les Pays-Bas — ont qualifié de « prématurée » toute initiative visant à créer un nouveau traité. Ces pays investissent massivement dans les applications militaires de l’intelligence artificielle et développent des systèmes d’armes autonomes aériens, terrestres et maritimes.
— Human Rights Watch
Tous investissent dans le développement de l’intelligence artificielle (IA) à des fins d’application militaire pour essayer de prendre un avantage dans ce domaine. « Des potentialités foisonnantes au service de la supériorité opérationnelle [3] » selon un récent Rapport d’étude du Ministère français des armées.
Ces armes de nouvelle génération, pilotées en autonomie par une IA, permettront, ils en sont persuadés, de gagner les batailles et les guerres de demain. Tout porte à croire que ce futur n’est pas si lointain.
« Si permettre à des armes de choisir et d’attaquer des cibles humaines sans l’intervention d’êtres humains ressemble à de la science-fiction, nous n’en sommes pourtant pas si loin. »
— Human Rights Watch
En effet, la perspective de voir sur les champs de bataille des armes autonomes, décrites comme la troisième révolution dans les techniques de guerre, après la poudre à canon et les armes nucléaires, est, comme celle d’y voir des « soldats augmentés », de moins en moins éloignée de la réalité : le développement de l’intelligence artificielle (IA) a atteint un point où le déploiement de tels systèmes « est réalisable en quelques années, et non en quelques décennies » rappelaient déjà en 2015 dans une lettre ouverte des chercheurs en IA et en robotique.
Des discussions sur les SALA dans le cadre du CCAC
« À l’initiative de la France » [4], des discussions ont été lancées en 2014 au sein de la Convention sur certaines armes classiques (CCAC) de l’ONU pour répondre aux questions que posent le développement de systèmes d’armes létaux autonomes (SALA ou LAWS, en anglais, pour « Lethal Autonomous Weapons Systems »).
Depuis, huit réunions sur les robots tueurs ont été organisées par la CCAC.
Elles ont permis de dégager un consensus sur la nécessité de conserver un certain degré de contrôle humain sur le « recours à la force ».
« La dernière réunion de la CCAC, en septembre 2020, a examiné comment le contrôle humain et la prise de décision sont essentiels à l’acceptabilité et à la légalité des systèmes d’armes.
Au cours de cette réunion, de nombreux pays et groupes de pays ont exprimé leur vif intérêt pour la négociation d’un nouveau traité international.
Trente pays ont explicitement appelé à une interdiction des armes entièrement autonomes. »
— Human Right Watch
La prochaine Conférence d’examen quinquennal de la CCAC doit avoir lieu en novembre 2021.
« Robots tueurs » : un appel à une réponse multilatérale
En septembre 2019, pendant l’Assemblée générale des Nations Unies, l’« Alliance pour le multilatéralisme » [5], une initiative menée par la France et l’Allemagne, a identifié les robots tueurs comme faisant partie des six questions « politiquement pertinentes » nécessitant une réponse multilatérale « urgente ».
« L’autonomie complète de ces armes pose de multiples questions ethiques, morales et juridiques : un débat sur la manière d’appréhender ces armes est ainsi jugé nécessaire. »
Une déclaration sur les SALA préparée par la France et l’Allemagne a été ouverte à la signature dans le cadre de l’« Alliance pour le multilatéralisme », le 26 septembre 2019.
Elle présente « un état des travaux » en cours à la CCAC, qui est estimée être la structure adéquate pour aborder ces questions.
« Pour être efficace, ce processus doit être ancré dans un cadre universel associant toutes les principales puissances militaires. La CCAC, qui constitue un instrument essentiel du droit international humanitaire et une enceinte associant des expertises complémentaires sur les questions humanitaires comme de sécurité, répond à ces critères. »
L’Alliance pour le multilatéralisme, « compte tenu de la rapidité du développement technologique dans le domaine de l’intelligence artificielle (IA) », invite les États à « accorder une attention particulière aux défis éventuels liés aux futurs systèmes d’armes à fonctions autonomes » :
Il est de la plus haute importance que la production, l’utilisation et le transfert de ces futures armes soient fermement ancrés dans le droit international et le contrôle des États.
Nous appelons donc les États à contribuer activement à la clarification et au développement d’un cadre normatif et opérationnel efficace et complet pour les systèmes d’armes autonomes meurtriers (LAWS) par le groupe désigné d’experts gouvernementaux (GGE) dans le cadre de la Convention des Nations Unies sur les armes (CCAC [6]).
Nous encourageons les États à promouvoir l’application à l’échelle mondiale des onze principes directeurs énoncés par le groupe d’experts gouvernementaux et joints à la présente déclaration et à travailler à leur élaboration et à leur élargissement ultérieurs.
— L’Alliance pour le multilatéralisme
11 principes sur les systèmes d’armes létaux autonomes
Principes directeurs* sur les systèmes d’armes autonomes meurtrières (SALA), tels qu’ils ont été approuvés par le Groupe d’experts gouvernementaux (GGE) de la Convention des Nations Unies sur les armes (CCAC) :
Notant les défis potentiels que les technologies émergentes dans le domaine des systèmes d’armes autonomes meurtriers posent au DIH, les points suivants ont été affirmés, sans préjudice du résultat des discussions futures :
1) Le droit international humanitaire continue de s’appliquer pleinement à tous les systèmes d’armes, y compris le développement et l’utilisation potentiels de systèmes d’armes autonomes meurtriers.
2) La responsabilité humaine des décisions relatives à l’utilisation des systèmes d’armes doit être maintenue, car elle ne peut être transférée aux machines. Il convient d’en tenir compte tout au long du cycle de vie du système d’armement.
3) L’interaction homme-machine, qui peut prendre diverses formes et être mise en œuvre à différents stades du cycle de vie d’une arme, devrait garantir que l’utilisation potentielle de technologies émergentes dans le domaine des systèmes d’armes autonomes meurtriers est conforme au droit international applicable, en particulier au DIH [7].
Pour déterminer la qualité et l’étendue de l’interaction homme-machine, il convient de prendre en compte une série de facteurs, notamment le contexte opérationnel ainsi que les caractéristiques et les capacités du système d’arme dans son ensemble.
4) La responsabilité de la mise au point, du déploiement et de l’utilisation de tout nouveau système d’arme dans le cadre de la CCAC doit être assurée conformément au droit international applicable, y compris par l’exploitation de ces systèmes au sein d’une chaîne responsable de commandement et de contrôle humains.
5) Conformément aux obligations des États ennvers le droit international, lors de l’étude, de la mise au point, de l’acquisition ou de l’adoption d’une nouvelle arme, d’un nouveau moyen ou d’une nouvelle méthode de guerre, il convient de déterminer si son emploi serait, dans certaines circonstances ou en toutes circonstances, interdit par le droit international.
6) Lors de la mise au point ou de l’acquisition de nouveaux systèmes d’armes basés sur des technologies émergentes dans le domaine des systèmes d’armes autonomes meurtriers, il convient de prendre en considération la sécurité physique, les garanties non physiques appropriées (y compris la cybersécurité contre le piratage ou l’usurpation de données), le risque d’acquisition par des groupes terroristes et le risque de prolifération.
7) L’évaluation des risques et les mesures d’atténuation devraient faire partie du cycle de conception, de développement, d’essai et de déploiement des technologies émergentes dans tout système d’armement.
8) Il conviendrait d’envisager l’utilisation de technologies émergentes dans le domaine des systèmes d’armes létales autonomes pour assurer le respect du droit international humanitaire et des autres obligations juridiques internationales applicables.
9) Lors de l’élaboration de mesures politiques potentielles, les technologies émergentes dans le domaine des systèmes d’armes autonomes meurtriers ne devraient pas être anthropomorphisées.
10) Les discussions et toute mesure politique éventuelle prise dans le cadre de la CCAC ne devraient pas entraver les progrès ou l’accès aux utilisations pacifiques des technologies autonomes intelligentes.
11) La CCAC offre un cadre approprié pour traiter la question des technologies émergentes dans le domaine des systèmes d’armes autonomes meurtriers dans le contexte des objectifs et des buts de la Convention, qui vise à établir un équilibre entre la nécessité militaire et les considérations humanitaires.
Documents disponibles sur les réunions du Groupe d’Experts organisées par la CCAC sur les systèmes d’armes létales autonomes (SALA) de 2019, 2018, 2017, 2016, 2015 et 2014
Liste des États ayant donné leur consentement aux 11 principes
Les principes ont à ce stade (au 20 septembre 2019) été agréés par consensus dans le cadre du Groupe gouvernemental d’experts sur les SALA qui comprend :
Albanie, Algérie, Argentine, Australie, Autriche, Biélorussie, Belgique, Brésil, Bulgarie, Cambodge, Cameroun, Canada, Chili, Chine, Colombie, Costa Rica, Croatie, Chypre, Cuba, République tchèque, République dominicaine, El Salvador, Estonie, Finlande, France, Gabon, Allemagne, Grèce, Guatemala, Saint-Siège, Honduras, Hongrie, Inde, Irak, Irlande, Israël, Italie, Japon, Jordanie, Kazakhstan, Koweït, République démocratique populaire lao, Lettonie, Lituanie, Luxembourg, Mexique, Monténégro, Maroc, Pays-Bas, Nouvelle-Zélande, Nicaragua, Norvège, Pakistan, Panama, Pérou, Philippines, Pologne, Portugal, Qatar, République de Corée, République de Moldova, Roumanie, Fédération de Russie, Serbie, Sierra Leone, Slovaquie, Slovénie, Afrique du Sud, Espagne, Sri Lanka, État de Palestine, États-Unis d’Amérique, Royaume-Uni de Grande-Bretagne et d’Irlande du Nord, Suède, Suisse, Togo, Tunisie, Turquie, Ouganda, Venezuela (République bolivarienne du), Zambie, ainsi que l’Egypte (qui a signé mais non ratifié la CCAC).
___
« Robots tueurs », Campagne de l’ONG Human Rights Watch. HRW fait campagne pour un traité d’interdiction des armes entièrement autonomes.
Rapport golobal 2020, Face à la menace des robots tueurs, le contrôle humain de l’usage de la force doit être maintenu, Human Rights Watch, 2020
Systèmes d’armes létales autonomes : y aura-t-il un Terminator tricolore ?
Armes autonomes : une lettre ouverte de chercheurs en IA et robotique
Convention sur certaines armes classiques, Nations Unies
La Convention sur l’interdiction ou la limitation de l’emploi de certaines armes classiques qui peuvent être considérées comme produisant des effets traumatiques excessifs ou comme frappant sans discrimination, telle qu’elle a été modifiée le 21 décembre 2001, est également connue sous le nom de Convention sur certaines armes classiques.
L’Alliance pour le multilatéralisme, Ministère de l’Europe et des Affaires étrangères, www.diplomatie.gouv.fr
11 principes sur les systèmes d’armes létaux autonomes, Ministère de l’Europe et des Affaires étrangères, www.diplomatie.gouv.fr
* Traduction depuis l’anglais par Globales.
Illustration : Mike Young, Maquette du drone BAE Taranis au salon de Farnborough en 2008, 8 juillet 2008.
« Le projet Taranis mis au point par BAE Systems concerne un drone de combat (ou UCAV, Unmanned Combat Aerial Vehicle) britannique. C’est un drone révolutionnaire qui sera capable de choisir et frapper automatiquement. — Wikipedia »
[1] agréés par consensus par de nombreux états (liste en bas de page)
[2] Cf. Face à la menace des robots tueurs, le contrôle humain de l’usage de la force doit être maintenu, Human Rights Watch
[3] GUADELOUPE : An nou woupwan chimen a la lit !, Guerre Moderne
[4] 11 principes sur les systèmes d’armes létaux autonomes, diplomatie.gouv.fr (consulté le 15 novembre 2020)
[5] L’Alliance pour le multilatéralisme, « lancée le 2 avril 2019 par les ministres des Affaires étrangères français et allemand, est une alliance informelle de pays convaincus qu’un ordre multilatéral fondé sur le respect du droit international est le seule garantie fiable pour la stabilité internationale et la paix et que les défis auxquels nous faisons face ne peuvent être résolus que grâce à la coopération. Elle vise à rassembler des partenaires de bonne volonté capables de s’exprimer et d’agir. »
[6] Convention sur certaines armes classiques, en anglais
Convention on Certain Conventional Weapons (CCW)
[7] Charte des Nations unies et le droit international humanitaire (DIH)
Vos commentaires
Espace réservé
Seules les personnes inscrites peuvent accéder aux commentaires.
