En décembre 2021, dans le cadre de la Convention sur certaines armes classiques (Convention on Certain Conventional Weapons, CCW), les États ont manqué une opportunité d’assurer un contrôle humain significatif sur l’usage de la force par des robots tueurs ou systèmes d’armes létaux autonomes (SALA). La sixième Conférence d’examen de la CCW, qui s’est tenue du 13 au 17 décembre 2021 à Genève, s’est en effet soldée par un échec, aucun mandat pour entamer des négociations sur un instrument juridiquement contraignant n’ayant été adopté. Au lieu de tracer des limites juridiques et éthiques claires pour veiller à ce qu’un contrôle humain suffisant soit conservé dans l’usage de la force, les États ont simplement convenu de poursuivre les travaux du Groupe d’experts gouvernementaux (Group of Governmental Experts, GGE)[1] pour une année supplémentaire[2].
Alors qu’une majorité d’États était disposée à aller de l’avant, cet immobilisme résulte de l’engagement de certains d’entre eux (les États-Unis et la Russie, principalement) à instrumentaliser la règle du consensus en vigueur à la CCW comme un veto[3]. L’absence de progrès majeurs depuis le début des discussions en 2013 a mis en lumière les limites de la CCW pour apporter une solution appropriée aux problèmes posés par les SALA[4].
Cet Éclairage analyse les contraintes inhérentes à la CCW et invite à considérer l’option d’en sortir pour finalement arriver à un traité sur l’utilisation de la force au moyen de systèmes d’armes autonomes.
Le texte procède en deux parties. La première s’intéresse aux règles de procédure de la CCW, qui permettent à un seul État de bloquer les propositions d’accord. La deuxième partie étudie la manière dont un nouveau processus pourrait établir un traité combinant des interdictions et des obligations positives. En conclusion, le texte souligne que, malgré des avantages certains à un stade initial, la CCW n’est plus adaptée pour aboutir à un cadre législatif garantissant le contrôle humain dans l’usage de la force. Pourtant, cet objectif est atteignable à condition qu’un État (ou un groupe d’États) disposant des moyens diplomatiques adéquats fasse preuve d’une réelle volonté politique dans un contexte où le désarmement comme outil de mitigation des risques associés aux armes et tensions internationales ne reçoit pas l’attention nécessaire.
Le cadre limitatif de la CCW : un obstacle à des avancées probantes
Les discussions à l’ONU sur les systèmes d’armes autonomes ont favorisé le développement d’une orientation politique largement partagée. Au cours de la réunion du GGE qui s’est tenue du 3 au 13 août 2021, les discussions se sont stabilisées autour d’une compréhension commune de la réponse politique nécessaire aux problèmes posés par les armes autonomes[5]. Ainsi, outre les États hostiles à cette convergence conceptuelle (États-Unis, Inde, Royaume-Uni, Russie, notamment), il y a deux camps principaux au sein de la structure qui se dessine dans les discussions autour d’une approche combinant des interdictions et des réglementations pour maintenir un contrôle humain[6]. Le premier camp rassemble les États appelant à une réponse juridique (Brésil et Costa Rica, par exemple), le deuxième, ceux qui reconnaissent la nécessité de réglementations pour maintenir le contrôle humain sans pour autant leur donner un caractère juridiquement contraignant (Allemagne et France, notamment).
Malgré cette avancée, les discussions à la CCW ont également illustré les difficultés à progresser face à l’opposition politique des États les plus hostiles à une prohibition des SALA établie par un traité. En effet, les règles de procédure de la CCW, en particulier la règle du consensus, ont autorisé plusieurs des États disposant d’une base industrielle et technologique de défense relativement avancée (États-Unis, Inde, Israël et Russie, notamment) à faire barrage aux efforts du président du GGE[7] pour arriver à un accord. Richard Moyes et Uldduz Sohrabi, de l’organisation non gouvernementale Article 36, stipulent à cet égard que : « Le mode de fonctionnement de la CCW permet en effet à tout État de bloquer l’accord sur des décisions formelles et c’est ainsi que — au milieu de nombreuses prises de position géopolitiques qui n’avaient rien à voir avec le sujet traité — ces États ont empêché le forum d’avancer vers des négociations complètes. »[8] Ce type de blocage est caractéristique de la CCW et l’une des raisons pour lesquelles peu d’armes y ont été réglementées et encore moins totalement prohibées[9]. Cette difficulté à faire des progrès formels est le principal frein au sein de la CCW à l’aboutissement du processus visant à garantir un contrôle humain significatif sur le recours à la force.
L’échec de la sixième Conférence d’examen ne doit cependant pas faire oublier qu’il existe aujourd’hui une cohérence politique pour élaborer un cadre normatif et opérationnel sur les systèmes d’armes autonomes. D’ailleurs, la dernière réunion du GGE en 2022, du 25 au 29 juillet, a débuté de façon encourageante autour du projet de rapport du président du GGE[10], dont les conclusions comprenaient à la fois des interdictions et des réglementations[11]. La Russie s’est cependant distinguée par son obstination à vider le document initial de sa substance. Le dernier jour de la conférence, les États ont fini par accepter une version qui ne détermine ni quels types de systèmes d’armes autonomes devraient être interdits, ni n’établit de réglementations concernant leur utilisation[12]. Cette dernière déconvenue a renforcé une perception de plus en plus partagée au sein de la société civile active dans le désarmement : un processus alternatif à la CCW est désormais inévitable[13].
|
La Convention sur certaines armes classiques (CCW) La Convention sur l’interdiction ou la limitation de l’emploi de certaines armes classiques qui peuvent être considérées comme produisant des effets traumatiques excessifs ou comme frappant sans discrimination est davantage connue dans sa dénomination abrégée de Convention sur certaines armes classiques (Convention on Certain Conventional Weapons, CCW). Cette instance onusienne consiste en une convention-cadre et cinq protocoles qui interdisent ou restreignent l’utilisation de divers types d’armes. Les armes actuellement couvertes sont celles dont l’effet principal est de blesser par des éclats qui ne sont pas localisables par rayons X dans le corps humain (Protocole I), les mines, pièges et autres dispositifs (Protocole II), les armes incendiaires (Protocole III), les armes à laser aveuglantes (Protocole IV) et les restes explosifs de guerre (Protocole V). Toutes les réunions liées à la CCW se tiennent à Genève. Depuis 2013, c’est donc cette instance qui cadre les discussions interétatiques sur les questions liées aux technologies émergentes dans le domaine des SALA. |
Une nouvelle voie à suivre pour l’établissement d’un traité
Pour répondre aux défis juridiques et éthiques liés à l’utilisation de SALA[14], les États ont la possibilité de lancer un processus parallèle à la CCW. Celui-ci peut se redéployer dans un cadre onusien par le biais de l’Assemblée générale des Nations unies, à l’image de ce qui a été fait lors des négociations sur le Traité sur le commerce des armes ou le Traité sur l’interdiction des armes nucléaires (TIAN). Le processus peut aussi être mis en œuvre de manière indépendante des forums existants aux Nations unies, comme cela a été le cas pour les négociations de la Convention d’Ottawa sur l’interdiction des mines antipersonnel ou celles tenues dans le cadre de la Convention d’Oslo sur les armes à sous-munitions[15]. Dans les deux cas, la démarche consistant à sortir du cadre de la CCW donnerait aux États les plus progressistes en la matière la possibilité de convenir d’un mode de travail commun pour établir un traité juridiquement contraignant sur les systèmes d’armes autonomes.
Un traité ainsi négocié ne rassemblerait selon toute vraisemblance pas autant d’États que la CCW. Il impliquerait néanmoins des effets induits sur tous les États, qu’ils aient participé à son processus d’élaboration ou non, qu’ils le ratifient ou non. Deux exemples récents illustrent la valeur normative d’un traité de ce type : 1) la récente décision des États-Unis (un pays non signataire de la Convention d’Ottawa) de renoncer à utiliser (hors de la péninsule coréenne), développer, produire ou exporter des mines antipersonnel et 2) la publication par les cinq membres permanents du Conseil de sécurité de l’ONU (qui ne sont pas parties au TIAN) d’une déclaration commune soulignant leur volonté de travailler avec tous les États vers un monde sans armes nucléaires[16].
Tant le processus ayant abouti à l’interdiction des mines antipersonnel que celui ayant conduit à l’interdiction des armes à sous-munitions se sont déployés en dehors de la CCW après un seul échec en son sein ; respectivement, lors de la première Conférence d’examen en 1996 et lors de la troisième en 2006[17]. Celui visant à interdire les systèmes d’armes autonomes qui ne permettent pas un contrôle humain significatif, c’est-à-dire sans un opérateur humain qui est moralement et légalement responsable des effets de l’emploi de la force, compte déjà deux revers à la CCW ; lors de la cinquième Conférence d’examen en 2016 et de la sixième en 2021.
Pour expliquer cette différence, Charli Carpenter, professeure de science politique et d’études juridiques à l’université du Massachusetts à Amherst, identifie trois facteurs[18]. Elle avance tout d’abord que les contraintes liées à la pandémie de Covid-19 (distanciation sociale et confinements) ont empêché les promoteurs d’une interdiction des SALA d’interagir directement avec les représentants gouvernementaux et diplomatiques. Elle insiste ensuite sur le caractère préventif d’une interdiction des systèmes d’armes autonomes ne permettant pas un contrôle humain significatif. En effet, le fait de ne pas être encore véritablement confronté au déploiement de SALA dans les arsenaux militaires ouvre la voie à toutes sortes de spéculations sur les rapports coûts/bénéfices pour les militaires et les producteurs d’armes, ainsi que sur les impacts humanitaires qui sont pour l’heure nécessairement invérifiables. Enfin, Carpenter relève le fait que les risques associés à ce type d’armes peuvent être abordés de plusieurs manières (éthique, juridique ou politico-stratégique, par exemple), ce qui est à même de brouiller la logique et les objectifs d’une interdiction.
Néanmoins, l’auteure mentionne trois phénomènes qui viennent contrebalancer ces difficultés[19] ; respectivement : 1) la réouverture des espaces sociaux transnationaux, 2) la diminution de l’aspect préventif d’une légifération des systèmes d’armes autonomes induite par les progrès de la technologie militaire et 3) la précision, par les activistes en faveur d’une interdiction des SALA, de leur discours.
Dans cette configuration, le plaidoyer de la Campaign to Stop Killer Robots (une coalition internationale rassemblant plus de 180 organisations membres) s’est affirmé pour demander un nouveau traité international qui garantit un contrôle humain significatif sur l’usage de la force et rejette l’automatisation du recours à la violence létale. Combinant des interdictions et des réglementations, ce traité s’appliquerait à toute la gamme de systèmes d’armes qui détectent et engagent une cible de manière autonome sur la base de données récoltées par des capteurs, plutôt que directement par des humains[20].
Plus précisément, selon la coalition, ce nouvel instrument juridique se déploierait sur deux axes principaux. Premièrement, il interdirait les systèmes d’armes autonomes qui ne permettent pas un contrôle humain significatif et ceux qui ciblent directement les personnes (même lorsqu’ils sont utilisés sous contrôle humain). Deuxièmement, il réglementerait les systèmes d’armes qui ne seraient pas interdits pour qu’ils ne soient utilisés que moyennant un contrôle humain significatif. Pour ce faire, l’opérateur humain devrait, d’une part, comprendre le fonctionnement du système d’armes et, d’autre part, s’appuyer sur des paramètres d’engagement (en considérant notamment le temps et la zone géographique d’opération, le type de cibles, etc.) strictement définis l’autorisant à anticiper les effets vraisemblables d’une attaque[21]. La tâche impliquerait un niveau de formation des militaires conséquent mobilisant des compétences techniques, opérationnelles et juridiques.
Conclusion : sortir de l’impasse
La CCW a rendu possible la convergence politique d’un large groupe d’États favorables à de nouvelles règles juridiques sur l’autonomie des systèmes d’armes : au moins 70 d’entre eux ont appelé à l’instauration d’un instrument juridiquement contraignant par le biais de déclarations nationales ou de positions assumées en groupe[22]. Leur projet a néanmoins peu de chances d’aboutir. Le blocage exercé par des États technologiquement avancés laisse en effet les discussions dans l’impasse quant à l’établissement d’un traité d’interdiction. Avec peu d’espoir de voir cette situation changer, il semble vain de continuer à voir la CCW comme le cadre approprié pour obtenir un réel engagement sur les armes autonomes.
En tant que forum, la CCW a favorisé la formation de coalitions d’États partageant des compréhensions similaires des enjeux des SALA. Une cohérence politique s’est ainsi structurée en vue de l’élaboration d’un cadre normatif et opérationnel sur les systèmes d’armes autonomes, bien que des divergences subsistent sur la forme et la portée de celui-ci (notamment quant à son caractère juridiquement contraignant). Ce niveau de maturité des discussions internationales, couplé à l’opposition des citoyens à l’utilisation de systèmes d’armes autonomes[23], constitue une base convaincante pour qu’un État, ou un groupe d’États, prenne l’initiative d’en réunir d’autres pour travailler multilatéralement à trouver des solutions en dehors du cadre de la CCW. Cela pourrait commencer par l’organisation d’une conférence internationale visant à rassembler des États favorables à un traité qui garantit un contrôle humain significatif sur l’utilisation de la force et affichant une intention commune d’entamer des négociations.
L’objectif de parvenir à un encadrement international de l’autonomie des systèmes d’armes létaux est donc atteignable. Cependant, dans un contexte marqué par des préoccupations stratégiques, les dirigeants gouvernementaux doivent faire preuve d’une réelle volonté politique et déployer les moyens diplomatiques nécessaires pour saisir cette occasion de contrer la délégation de tuer à une intelligence artificielle.
L’auteur
Jonathan Bannenberg est chercheur au GRIP. Diplômé de l’Université de Lausanne (Suisse), il est titulaire d’un master en science politique de l’Université libre de Bruxelles (ULB).
[1]. Créé par la cinquième Conférence d’examen de la CCW en 2016, le GGE est un groupe à composition non limitée chargé d’étudier les questions ayant trait aux technologies émergentes dans le domaine des systèmes d’armes létaux autonomes dans le cadre des objectifs et des buts de la CCW ; voir CCW, Document final de la cinquième Conférence d’examen, Genève, 23 décembre 2016, CCW/CONF.V/10, p. 9.
[2]. Voir CCW, Final Document of the Sixth Review Conference, Genève, 10 janvier 2022, CCW/CONF.VI/11, p. 10.
[3]. Voir JONES Isabelle, « Historic opportunity to regulate killer robots fails as a handful of states block the majority », Campaign to Stop Killer Robots, 17 décembre 2021.
[4]. Pour un panorama des problèmes que posent les SALA, voir Campaign to Stop Killer Robots, « Problems with autonomous weapons », 2021.
[5]. Voir MOYES Richard, « CCW Group of Governmental Experts August 2021 meeting analysis », Article 36, 3 septembre 2021.
[6]. Voir ibidem.
[7]. Le représentant permanent de la Belgique auprès des Nations unies, l’ambassadeur Marc Pecsteen.
[8]. MOYES Richard et SOHRABI Uldduz, « Killer Robots: Moving beyond the UN process », Rethinking Security, 22 février 2022 (traduction libre).
[9]. Voir CARPENTER Charli, « A Better Path to a Treaty Banning ‘Killer Robots’ Has Just Been Cleared », World Politics Review, 7 janvier 2022.
[10]. L’ambassadeur brésilien Flávio Soares Damico, qui succéda à Marc Pecsteen.
[11]. Voir CCW, Report of the 2022 session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems, Genève, 29 juillet 2022, CCW/GGE.1/2022/CRP.1.
[12]. Voir CCW, Report of the 2022 session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems, Genève, 29 juillet 2022, CCW/GGE.1/2022/CRP.1/Rev.1.
[13]. Voir NOOR Ousman, « Russia leads an assault on progress at UN discussions, the CCW has failed. », Campaign to Stop Killer Robots, 4 août 2022.
[14]. Sur ce point, voir BANNENBERG Jonathan, « Robots tueurs : quelle place pour l’humain dans l’exercice légitime de la violence politique armée ? », Éclairage du GRIP, 9 mars 2022.
[15]. Ouverte à la signature de tous les États à Ottawa (Canada) les 3 et 4 décembre 1997, la Convention d’Ottawa est l’accord international qui interdit l’emploi, le stockage, la production et le transfert des mines terrestres antipersonnel. La Convention d’Oslo, qui a été ouverte à la signature de tous les États à Oslo (Norvège) le 3 décembre 2008, est un instrument international juridiquement contraignant interdisant l’emploi, la production, le transfert et le stockage des armes à sous-munitions.
[16]. Voir « Les États-Unis renoncent à l’usage de mines antipersonnel », La Croix, 21 juin 2022, et Joint Statement of the Leaders of the Five Nuclear-Weapon States on Preventing Nuclear War and Avoiding Arms Races, The White House, 3 janvier 2022.
[17]. Voir CARPENTER Charli, op. cit.
[18]. Voir ibidem.
[19]. Voir ibidem.
[20]. Voir Campaign to Stop Killer Robots, « Our policy position », 2021.
[21]. Voir ibidem.
[22]. Voir Campaign to Stop Killer Robots, Negotiating a Treaty on Autonomous Weapons Systems – The Way Forward, 29 juin 2022, p. 2.
[23]. Des enquêtes internationales menées dans des dizaines de pays en 2018 et 2020 montrent que plus de trois personnes sur cinq sont opposées à l’utilisation de systèmes d’armes autonomes ; voir ibid., p. 7.
Télécharger l’Éclairage en pdf
Crédit image : The Defender, a U.S. robotic platform that performs reconnaissance, surveillance, targeting, and threat neutralization tasks. ©US Air Force (defender-autonomous-robot-081118-F-1025B-001-1170×610)