Les enjeux pour le droit de la guerre des Systèmes Armés Létaux Autonomes (SALA)

Le film Terminator II le jugement dernier réalisé par James Cameron et sorti en 1991 présente un robot tueur, le Terminator 800 (T 800), joué par Arnold Schwarzenegger dont la mission est de protéger un jeune garçon, John Connor. Ce dernier sera plus tard le chef de la résistance humaine contre les machines, après que celles-ci se soient rebellées contre l'Homme. John durant tout le film, tente avec succès de limiter l'action meurtrière du Terminator, qui n'est pas conçu pour accorder la moindre valeur à la vie humaine. Plus tard, lors de leurs péripéties le T800 demande à John :

- Pourquoi vous pleurez ?

- « Vous » ? Tu veux dire « tout-le-monde » ?

- Oui.

- J’en sais rien. Ça vient tout seul. Tu sais, quand tu souffres.

- Tu pleures quand tu souffres ?

- Oh non, pas toujours. Souvent, tout va bien dans ton corps, mais tu souffres quand-même. Tu piges ?

- Non.

Cet échange mi-humoristique, mi-philosophique exprime bien la profonde irrationalité des sentiments humains (pleurer quand on est à la fois bien portant et triste), sentiment qui sont pourtant la source de notre humanité, de notre capacité à empathir. Chose qu'une machine est à la fois incapable de reproduire, et de comprendre. Si le T800 en 1991 pouvait encore passer auprès du grand public pour un objet de science-fiction, en 2023 l'existence des SALA (systèmes d'armes létaux autonomes, ce qu'est le T800) est un fait qui pose avec une gravité nouvelle les même questions que celles que pose John Connor au sujet de ce robot tueur : comment peut-on les contrôler ? Actuellement, les SALA sont de natures très variables. De l'Iron Dome Israëlien, chargé de la défense antimissile, à la munrod (munition rodeuse, ou « drone kamikaze ») turque Kargu-2 (sans doute le premier SALA à avoir éliminé une vie humaine en 2021 sur le théâtre Libyen). En robotique, un objet « autonome » est doté d’une autonomie dite « décisionnelle » : il est à même de fonctionner indépendamment d’un autre agent, humain ou non, en réalisant après calculs des actions qu’il met en œuvre dans des environnements changeants. (Comité d'éthique de la défense, voir sources) Des systèmes d'armes automatiques existent depuis deux siècles, comme les mines terrestres par exemple. Toutefois les nouveaux systèmes « sélectionnent parmi » différentes cibles (grâce à l'IA) quand les mines se déclenchent de manière mécanique dès lors que le détonateur est pressé par une contrainte extérieure.

Ces SALA posent plusieurs questions notamment morales et juridiques. Et d'aucun, tel le parlement européen, appelle à leur interdiction immédiate, estimant leur existence contraire à l'éthique. D'après eux, le jus in bello n'est pas adapté face à l'apparition de combattant non-humain et ne pourrait encadrer leurs usages. Nous nuancerons cette accusation, en estimant au contraire que l'Europe doit se doter rapidement de systèmes d'armes de ce types et proposerons avec cette étude quelques pistes pour mettre à jour le jus in bello à l'ère de l'arrivée de drone tueurs.

I. Les enjeux des SALA par rapport au droit conventionnel du jus in bello.

Le jus in bello existant offre de nombreux instruments et règles de droit adaptés pour répondre aux nécessités d'encadrement des SALA. De plus, il faut relativiser la différence entre le soldat et le SALA au regard du jus in bello dans un contexte d'affrontement militaire.

L'enjeu compétitif pour les armées de posséder des SALA.

Munrod FPV ukrainienne. En novembre 2024 on commence à voir appraître en OSINT des preuves de l'automatisation de ces systèmes grâce à l'IA.

L'apparition des SALA est concomitante des progrès techniques réalisés en intelligence artificielle et dans les TIC depuis l'apparition de l'informatique. Ces technologies de rupture participent à transformer le champ de bataille, et exigent des militaires qu'ils adoptent ces systèmes d'armes dans leurs arsenaux, sous peine d'être dépassés par les armées rivales.

Ces technologies, c'est important de le préciser, sont apparues et continuent d'évoluer dans des secteurs civils : robotique chirurgicale, analyse industrielle d'image, voiture autonome, aviation civile. Contrairement à ce que l'on peut lire, des systèmes autonomes capable d'engager une cible sans intervention humaine et de la détruire existent depuis les années 2000, et ont déjà connu le feu, notamment par le Phalanx CIWS mis en service par l'US Navy dans les années 80 afin de protéger ses navires des drones et missiles (bien que actuellement je n'ai rien lu sur un usage létale du Phalanx). L'évolution récente des conflits armés, notamment interétatiques tels qu'observés actuellement au Caucase, ou en Europe confirme l'intérêt opérationnel de ces systèmes dans tous les milieux d'opérations. Notamment en termes de vélocité. Comme le disent Shane R. Reeves et Matthew dans le Journal of Law, Technology & Policy de l'US Navy, le rythme des combats tactiques s'accélère, et la règle veut que celui qui engage le premier ait le plus de chances de remporter le combat. Ces systèmes permettent de diminuer grandement l'instance entre la détection de la cible et sa localisation. L'aide d'algorithmes permet d'exploiter une grande masse de données collectée en temps réel sur le champ de bataille, et donc de mieux saisir la réalité du combat, et de pénétrer des espaces hautement défendus qu'un vecteur dirigé par un humain ne pourrait pas infiltrer sans prendre des risques inconsidérés. Ils peuvent également se mouvoir dans des espaces hostiles à la présence humaine, tels que les milieux contaminés, ou soumis à des températures extrêmes. Enfin ils permettent d'obtenir un effet de masse en coordonnant par l'IA l'action simultanée d'un grand nombre de SALA pour statuer un espace par le feu.

Pour toutes ces raisons, la maîtrise dès aujourd'hui des SALA est un aspect essentiel pour assurer la supériorité opérationnelle des armées, dont aucune nation qui désire maintenir ses forces à un rang mondial ne peut faire l'économie. Leur développement est donc une réalité que les juristes doivent prendre en compte plutôt que de contester, car aucun pays pour des raisons juridiques n'acceptera de se retirer de la course, en laissant un avantage décisif à ses concurrents. Surtout à l'heure où le respect du droit international ne va pas être la priorité de la nouvelle administration américaine de Trump…

La conformité des SALA par rapport aux principes d'incontrôlabilité, d'humanité, et d'interdiction des armes aveugles.

La question de la conformité de l'usage de SALA en opération militaire par rapport aux conventions de Genève ne semble à priori pour l'instant pas être problématique. Pas plus qu'un autre système d'arme, ces nouveaux moyens de combats s'il sont conçus dans l'optique de respecter le DIH (droit international humanitaire, appelé aussi « droit de la guerre »), et utilisés selon une doctrine opérationnelle conforme au droit de la guerre, ne pose de problème de respect du droit conventionnel de Genève.

L'A36 du premier protocole additionnel aux conventions de Genèves de 1949 stipule que : dans l’étude, la mise au point, l’acquisition ou l’adoption d’une nouvelle arme, de nouveaux moyens ou d’une nouvelle méthode de guerre, une Haute Partie contractante a l’obligation de déterminer si l’emploi en serait interdit, dans certaines circonstances ou en toutes circonstances, par les dispositions du présent Protocole ou par toute autre règle du droit international applicable à cette Haute Partie contractante. Ce travail à été accompli notamment par les armées française et états-unienne qui ont chacune exprimé leurs vues quant à la conformité de l'usage des SALA avec le jus in bello. D'après les conventions de Genève, un système d'arme est illégal premièrement s'il est aveugle par nature. Il n'est pas tant question de savoir si en tout temps un système d'armes peut distinguer civils et militaires. Car aucun système d'arme n'est omniscient, et tout système d'arme peut être utilisé en dehors du cadre doctrinal d'emploi, de manière à ne plus être en mesure de distinguer civile et militaire. La règle s'applique en fonction des usages « normaux » du système, c'est-à-dire les usages auxquels il était destinée. Dans ce cas présent, au contraire, les SALA sont par nature plus précis que des systèmes d'armes conventionnelles. Car leur fonctionnement implique de disposer de certains capteurs (optronique, radar, micro) pour se mouvoir et pour faire feu.

Un système d'arme peut être considéré comme illégal en soit si les effets nocifs de l'arme ne peuvent pas être « maîtrisés ». Cette règle de droit vise surtout les armes bactériologiques. Cela ne cible pas l'arme mais ses effets produits par son usage (explosion, incendie). Le degré d’incontrôlablilité pour rendre l'arme elle-même illégale en soi est élevé. Ainsi l'usage d'armes incendiaires contre une forêt est autorisé par le protocole III (1980) de la convention sur certaines armes classiques si la forêt constitue en elle-même un objectif militaire. Cette règle de droit ne rend pas illégal les SALA en raison de leurs automatismes. Si le SALA est paramétré pour frapper des cibles spécifiques en appliquant le principe de discrimination des cibles qui s'appliqueraient à un soldat humain alors il n'est pas incôtrolable. Notons qu'il est possible qu'un SALA en zone d'intense combat et soumis à un puissant feu ennemi peut potentiellement devenir incontrôlable. Mais cela ne le rend pas illégal pour autant, car il se s'agit pas d'un usage normal, et qu'un soldat humain soumis à des conditions similaires est autant sinon plus susceptible d'agir en non conformité avec le DIH du fait de la panique, de la peur, de la la fatigue. Des paramètres auxquels échappent les machines, indifférentes à ces si humaines faiblesses. D'autre part un système d'arme peut être légal mais son usage pourrait être interdit dans certain environnements spécifiques, tel que par exemple les zones urbaines peuplé par des civils pour les SALA, là où le principe de discrimination serait le plus difficile à appliquer. Pour reprendre ce que dit un rapport du CICR de 2011 : la question n'est pas de savoir si les nouvelles technologies sont bonnes ou mauvaises en elles-mêmes, mais plutôt quelles sont les circonstances de leur utilisation.

Le respect du principe d'humanité (un des grands principes du DIH) pose un défi sémantique : si on entend par principe d'humanité une notion philosophique qui demande aux combattant d'estimer si l'usage de la force est respectueux de la dignité humaine de ceux qui pourraient être affectés par celle-ci, y compris ses ennemis, alors il parait complexe voir impossible pour une machine de comprendre un tel concept. Cependant, Shane R. Reeves et Matthew dans le Journal of Law, Technology & Policy de l'US Navy estiment que le droit doit rester neutre entre l'homme et la machine et ne pas préjuger qu'un homme est plus à même de respecter ce principe qu'une machine. Il s'agit de comprendre ce principe non pas comme une exigence morale affectant les intentions des combattants mais comme un principe promouvant des méthodes et moyens de guerre qui limitent la barbarie, indépendamment du fait que ce soit par le moyen d'une machine, d'un homme ou les deux. Si l'on adopte cette seconde définition alors le jus in bello ne s'oppose pas à l'introduction des SALA sur le champ de bataille, à condition que ceux-ci soient programmés pour reconnaître des comportements barbares, et sache les éviter. On peut programmer des algorithmes pour qu'ils puissent distinguer des civils de militaires, afin de ne cibler que les seconds. Cependant le respect de ce principe exige d'aller plus loin et de pouvoir identifier par exemple une cible militaire combattante d'un soldat blessé qui donc devient protégé par le DIH.

Une différence à relativiser : la distinction entre SALA et soldats humains au regard du jus in bello.

Affirmer que le jus in bello doit s'adapter, voir prohiber l'usage des SALA, suppose que ces nouveaux systèmes d'armes sortent totalement des schémas classiques de conduites des opérations militaires. Qu'ils « transforment la guerre » et donc que leurs usages remettent en cause la législation de la guerre. Cette affirmation, en partie justifiée nous le verrons plus bas, doit être pondérée. Fondamentalement, un SALA engagé au front pose des défis juridiques similaires à celui d'un soldat dans les mêmes conditions.

Premièrement de nombreuses problématiques liés aux SALA tel que la crainte d'un dysfonctionnement mécanique, la diminution de certaines contraintes politiques sur l'utilisation de la force, et un usage abusif de l'arme ne sont pas propres aux SALA mais s'observent pour l'artillerie à longue portée, les missiles, les armes incendiaires. Aucun de ces systèmes n'est considéré comme forcément illégal. Mais doit être licitement utilisé. Mais encore, il faut comprendre que toute opération militaire impliquant des SALA ou non demande que les commandants chargés de son déroulement exercent leur jugement en prenant en compte la nécessité du respect du principe de discrimination dans la préparation de leur opération. C'est à cette phase de l'opération que doivent être sélectionnés les systèmes d'armes en fonction de la nécessité militaire et du respect des grands principes du DIH. Une fois l'opération engagée, les combattants comme les SALA n'ont accès qu'à un nombre limité d'informations sur le déroulement de l'opération, ce qui restreint leurs jugements. Ils ne sont souvent pas en mesure d'estimer par exemple si leurs actions sont licites au regard du principe de proportionnalité ou de nécessité militaire. Leur comportement vis-à-vis du DIH est en partie conditionné par leurs règles d'engagement données par leurs commandants, ainsi que leurs connaissances préalable du terrain sur lequel ils sont engagés. Pour revenir plus précisément sur la question des SALA il faut donc distinguer la décision humaine de déployer un système dans une opération particulière, le paramétrage technique du système avant l'opération, et les décisions du système une fois engagé. Le premier ensemble de conditions détermine le second, et prendre les premières de manière appropriée réduit grandement les possibilités d'erreur et de violation du DIH. En résumé, comme tout système d'arme, les SALA participent à modifier les usages et méthodes de guerre, mais ne la révolutionnent pas, et sur certains points, leur respect du DIH dépend de la planification des opérations dans lesquelles ils sont engagés. Exactement comme pour les soldats humains.

II. Les défis de la réglementation des SAMA par rapport au jus in bello.

Drone de combat terreste russe Uran-9. Son utilisation en Syrie n'avait pas été concluante. Les Russes ont un retard important en terme de robotique.

L'enjeu de l'incompréhension du numérique pour les militaires.

Un des risques qu'implique l'usage des SALA est la perte de compréhension du comportement de la machine dû au caractère asémantique des algorithmes. Répondre à ce défi implique de former les militaires à l'usage de ces engins, d'utiliser les SALA selon une doctrine d'emploi stricte, notamment dans leurs participations à la préparation des opérations militaires, mais aussi d'encadrer l'usage de l'apprentissage des SALA.

Les SALA posent un risque de perte de contrôle humain dans la conduite des opérations militaires. Surtout si des SALA viennent à participer au processus de prise de décision des opérations militaires par exemple par des propositions dans la planification d'un assaut. Cela crée le risque d'une mise à distance du militaire de l’opération. La tendance humaine à développer une addiction aux automatismes, peut aboutir à une perte de confiance du décideur militaire envers son propre jugement personnel, et à se fier en toute conditions à la machine, (Revue Défense Nationale, voir sources) en particulier s'il ne comprend pas son fonctionnement. Si la machine par exemple lui recommande d'ouvrir le feu, il pourrait se sentir moins impliqué dans la décision, ce qui entraînerait une perte d’humanité dans les actions de combat. Il y a là un vrai risque que des opérations militaires soient partiellement élaborées par des machines, avec moins d'apport humain. Une telle situation au regard du jus in bello est problématique, car elle décharge les soldats d'une partie de leurs responsabilités de faire respecter le DIH, et supprime le regard humain dans la conduite des opérations, alors que celui-ci par exemple ne risque pas d'être faussé par un bug, une faille technique ou un piratage. En outre, précisément parce que l'emploi de SALA ne met pas en danger la vie de frères d'armes, l'usage de SALA est toujours tentant pour les commandants, même dans des situations non conformes à la doctrine d'emploi, malgré des risques juridiques ou éthiques d'un tel usage. A une toute autre échelle, on l'a vu dans la guerre contre le terrorisme de l'administration Obama. Nous en reparlerons plus bas. Par ailleurs, à tous ces risques s'ajoute celui d'incompréhension des SALA par les militaires. Par exemple, on pourrait imaginer un apprentissage machine durant la mission, afin de s'adapter au contexte singulier de celle-ci. L'apprentissage machine est une approche statistique permettant de découvrir par des algorithmes des corrélations significatives dans une masse importante de données pour construire un modèle prédictif” (Comité d'éthique de la défense, voir sources). Un tel dispositif est problématique, surtout si celui-ci se fait simultanément à la mission, et si l'équipe humaine ne maîtrise pas ce qui est appris par la machine. Cela peut déboucher sur une modification par la machine des paramètres de sa mission, et un comportement différent de ce qu'attendaient les militaires. En somme, la participation des SALA à la préparation des opérations militaires posent de vrais risques, d'autant plus que le fonctionnement de ces machines est par nature incompréhensible pour l'immense majorité des combattants.

Les solutions juridiques : une limitation de l'autonomie des SALA, et un élargissement du principe de distinction.

Dans l'hypothèse d'un engagement important de SALA dans une zone contenant des civiles, il est important qu'auparavant les programmeurs concevant les codes de ces engins et les soldats participent à leurs mise en opérations respectent le principe de précaution avant l'attaque donnée par l'A57 du premier Protocole additionnel aux Conventions de Genève. Celui-ci impose à l'attaquant une précaution dans l'attaque qui demande un équilibre entre l'avantage militaire attendu et le dommage excessif causé aux civils. Ces deux concepts sont contextuels et abstraits, présupposent un jugement en partie moral, et doivent donc être traduit par les ingénieurs dans un code pouvant estimer un dommage excessif et un avantage militaire. Si cela parait faisable pour la notion de « dommage excessif », (plus ça pète plus c'est excessif) ce sera sans doute plus complexe pour le second concept.

Afin de soutenir le respect du DIH, une doctrine d'emploi claire doit être élaborée suivant des principes stricts. Premièrement le cadre de la mission doit être défini avant son commencement avec un objectif militaire identifié, un cadre spatio-temporel contraint, une chaîne de commandement stricte, et des règles d'engagements adaptées à chaque mission. Un changement dans ces paramètres ne peut venir que d'une chaîne de commandement établie auparavant et fidèle à la doctrine. Il s'agit là bel et bien d'une restriction opérationnelle, car la règle de l'efficacité militaire voudrait au contraire laisser le plus possible d'autonomie aux unités sur le terrain afin de leurs permettre de s'adapter au contrainte non prévue. Dans une situation d'urgence, pris dans un combat, les soldats peuvent être tentés de modifier les règles d'engagement des SALA, chose qui ne doit pas être permise, ou alors dans des conditions exceptionnelles, sous peine de perdre la capacité à contrôler l'usage du feu de l'engin.

Deuxièmement, les SALA doivent être programmés lors de la conception et paramétrer avant l'opération afin de respecter au maximum les règles de distinction de A48 du Protocole additionnel I aux Conventions de Genève des cibles légitimes en opération. Dans le cadre d'un conflit interétatique, le principe de discrimination selon les conventions de Genève de 1949 identifie les cibles légitimes pouvant être attaquées : les combattants d'armée régulière. Ceux-ci peuvent être ciblés par un SALA sans restriction tant qu'ils ne sont ni blessés, ni se constituent prisonniers. Toutefois de tels conflits sont aujourd'hui rares (Même si hélas ce n'est plus tout à fait certain qu'ils le restent), et la situation la plus probable d'engagement d'un SALA est celle de combattants dissimulés dans la population civile lors d'un conflit asymétrique. Dans ce cas, un SALA ne devient licite que s'il a la capacité de distinguer un civil d'un combattant dissimulé parmi les civils. L'on trouve deux catégories de combattants : ceux qui combattent à plein temps (cible légitime durant les hostilités), et les civils participant directement aux hostilités sur des périodes limitées (que l'on appelle communément guérillero). D'après le DIH ceux-ci retrouvent une protection par porte tournante au bout d'un temps non défini s'ils cessent de participer aux hostilités. Après l'activation de cette porte tournante, la force létale ne peut s'appliquer contre ceux-ci car ils sont des civils protégés par le DIH. “sera-t-il possible de traduire informatiquement des concepts juridiques dont le propre est d’être sujets à interprétation ?”(Revue Défense Nationale). Afin de respecter l'A48 du Protocole additionnel I aux Conventions de Genève on pourrait mettre à jour constamment une base de données contenant une liste de cible légitime, (le SALA ne choisit donc pas ses cibles, mais se limite à les engager) ou identifier par l'image ou d'autre capteur un comportement de nature belliqueuse, tel que l'usage d'une arme à l'encontre des biens ou du personnel ami. 

Avec le respect du principe de distinction des personnes, s'impose aussi celui des biens défini par l'article 52 § 2 du premier Protocole additionnel aux Conventions de Genève.  Celui-ci définit deux catégories pour les bien pouvant être légitimement ciblés. Les Cibles militaires permanente (base militaire, radar), et les biens civiles devenus militaires par usage. Le premier cas ne pose pas de problème. Le cas de l'identification des objectifs militaires par usage est complexe. Identifier un bien militaire par usage exige qu'il présente un intérêt stratégique qui contribue à l'action de l'ennemi. Comment une machine pourrait-elle saisir cette notion d'utilité militaire pour l'ennemi ?  Procéder à la neutralisation d'un bien à usage militaire demande également de comprendre l'avantage militaire attendu de l'attaque, afin de pouvoir justement déterminer le niveau de destruction appropriée. Toutes ces considérations demandent une capacité de jugement et de compréhension de ces concepts relatifs, à défaut de cette capacité de jugement les SALA ne doivent pas pouvoir légalement engager un bien militaire par usage. Dans certains cas précis, l'autonomie des SALA doit être limitée strictement à l'exécution d'une décision prise par un commandant humain, qui sera tenu responsable en cas de violation du jus in bello. (On parlerait alors de SALSA Systèmes d'armes létaux semi-autonomes) Afin de s'assurer de l'effectivité du DIH, celui-ci doit s'adapter également aux nouvelles possibilités offertes par les méthodes et moyens de combat.

Comme dit auparavant, la licéité d'une attaque est jugée selon les informations disponibles pour le commandant militaire au moment de lancer l'attaque. Avec leurs nombreux capteurs, capables de collecter du renseignement même pendant le combat, les SALA pourraient imposer aux commandant un élargissement de l'application de l'Article 57 du Protocole additionnel I aux Conventions de Genève. Comme dit plus haut cet article article oblige ceux qui préparent ou décident une attaque doivent prendre toutes les précautions nécessaire pour épargner les civils pouvant être impactés par l'attaque, si possible prévenir les populations civiles avant l'assaut, et interrompre l'attaque s'il apparaît que les dommages aux populations civils sont excessif comparée à l'avantage militaire attendu. La phase d'analyse de précautions de l'attaque définie par l'Article 57 du premier Protocole additionnel aux Conventions de Genève  pourrait s'étendre jusqu’aux dernières secondes précédant l’attaque. En donnant aux officiers des informations en temps réel sur le déroulé de l'attaque via leurs capteurs ils pourraient aussi rendre plus facile une annulation de l'attaque en repérant des populations civiles sur le lieu d'engagement. Les SALA comme dit plus haut sont conçus pour augmenter le tempo des opérations, ce qui pourrait paradoxalement permettre un meilleur respect du DIH en raccourcissant le temps de latence entre la détection de la cible et la frappe. Plus ce temps de latence est long, plus augmente le risque que la cible se déplace dans une zone contenant des civils, ou que des civils parviennent sur la zone ciblée. La jurisprudence, consciente de ces nouvelles méthodes de combats offertes par les SALA, pourrait estimer que l'Article 57 oblige les militaires à déclencher leurs frappes le plus vite possible, et la suspendre si celle-ci tarde trop à s'exécuter. 

Quelles garanties techniques au SALA pour assurer au maximum le respect du DIH ?

Afin de garantir le respect du DIH par les SALA, des mécanismes numériques doivent encadrer leurs utilisations, et limiter notamment leur autonomie décisionnelle. 

Un SALA étant une chose, aucune responsabilité ne peut lui être imputée. Afin d'empêcher que sa mise en œuvre exonère les responsables de toute poursuite pénale, des garanties techniques doivent être assurées au niveau de la conception de l'engin. Comme pour tous systèmes d'armes, les responsabilités se partagent tout au long du cycle de vie de l'arme. Premièrement, dès sa conception doit être élaborée une doctrine d'emploi qui fixe son intégration dans la chaîne de commandement, et son environnement d'usage.  Pour tout SALA doit exister également une cartographie des acteurs et de leurs responsabilités dans sa mise en œuvre, sa mise en opération, sa conception et l'entretien de l'engin. Les organismes de contrôle (entretien, mise à jour, test) jouent un grand rôle sur la maîtrise des risques des SALA, et leurs tâches doivent être effectuées conformément à la doctrine c'est-à-dire régulièrement, et conformément au principe de précaution. Plus que pour tout système d'arme, la bonne maintenance des SALA garentie son respect du DIH, car une simple mise à jour système peut tout aussi bien affiner ses capacités de discrimination des cibles, ou au contraire les rendre totalement insensibles au DIH et transformer un drone de combat terrestre en terminator génocideur. Afin de respecter en tout temps cette doctrine d'usage, il ne devrait pas être permis à un SALA de modifier par lui-même ses objectifs. Cela est trop dangereux pour les raisons évoquées plus haut. Seule sa chaîne de commandement humaine devrait pouvoir faire cela. Le code de ces engins doit donc être conçu pour restreindre ce champ de leur autonomie.

En outre, l'apprentissage machine continu qui permet de modifier les paramètres de la mission et le comportement de la machine bien que très efficace,  est trop imprévisible. Il est recommandé de le faire en différé afin de conserver la maîtrise de la validation des données utilisées et de l’évolution du système. Nous avons vu que l'un des principaux risques des SALA est l'incompréhension par les militaires des algorithmes. Les militaires doivent donc indiquer aux ingénieurs des orientations claires sur ce qu'ils doivent développer et ne pas développer. Avec une réflexion sur la méthodologie, les modes opératoires, règles d'engagements. Cela est nécessaire car dans de nombreux cas, seuls les ingénieurs pourront avoir une compréhension complète du fonctionnement de la machine. A eux donc de traduire en langage informatique les exigences des juristes et des militaires afin de s'assurer que les utilisations prévues et les environnements de champ de bataille dans lequel seront engagés les engins, soient conformes aux attentes. 

III. Les implications pour la sécurité internationale par rapport au jus contra bellum de l'apparition des SALA et de leur prolifération. 

La munrod Harop Israëlienne. Très efficace dans le Haut-Karabakh en 2020.

L'apparition de ces systèmes fait apparaître des risques pour la sécurité internationale, premièrement en poussant les États dans une course à l'armement dangereuse, en permettant des violations discrètes du jus contra bellum.

L’impact des SMA sur l’équilibre des forces militaires entre les États. 

L'apparition des SALA comporte un risque réel de creuser les rapports de force militaire en faveur de ceux produisant ces machines. Cela pourrait pousser les États ayant les moyens de s'en procurer dans une course à l'armement peu susceptible d'encourager à une réglementation internationale de ces systèmes d'armes. 

Comme évoqué dans la première partie, les avantages qu'ils offrent en terme de masse, de vélocité, de capacité de pénétration de systèmes de défense, peuvent apporter des effets perçus comme décisifs par les États Majors des grandes puissances ce qui les poussent à développer des systèmes concurrents. Le risque est alors de provoquer chez certains acteurs un sentiment de toute puissance sur ceux qui n'en possèdent pas, et donc de faciliter l'usage du recours à la force, ce qui va à l'encontre de la Charte des Nations Unies. De tels comportement ont déjà pû être observés dans le Caucase, où l'Azerbaïdjan en 2020 à attaquer son voisin arménien, assuré (à raison au vu de sa victoire éclatante…) de l'avantage militaire que lui offrait des systèmes d'armes robotisés turcs (drone de combat TB2 Bayraktar) et israéliens (Munrod Harop) qui fonctionnent au moins en partie de manière automatique. En outre, le sentiment de disposer d'un avantage relatif important en termes de puissance militaire n'encourage pas à vouloir réguler son arsenal. Au contraire, on observe en général que les grands traités de désarmement ou de limitation des arsenaux ont été signés dans des époques d'équilibre des forces, comme lors de la signature de SALT 1 en 1976, alors que les deux grandes puissances de la guerre froide se percevait comme en situation d'égalité en termes d'armements stratégiques. Actuellement, l'avance considérable qu'ont pris les nations notamment turque, israélienne et états-unienne dans ce domaine ne les invite pas à vouloir légiférer l'usage de ces armes, bien au contraire. Il suffit pour s'en convaincre de lire Shane R. Reeves et Matthew dans le Journal of Law, Technology & Policy de l'US Navy qui estiment que l'usage des SALA ne pose que très peu de problèmes au DIH, et que l'US Navy ne devrait pas se mettre de limite dans le développement de ces armements. On se doute qu'avec Trump au pouvoir ils vont être largement entendus à la Maison Blanche. 

A noter que l'Europe dispose d'au moins un champion dans le domaine des drone de combat terrestre (à défaut de l'être dans le domaine aérien complètement dominé par les Etats Unis, et ses rivaux comme la Chine ou la Turquie) : l'entreprise estonienne Milrem Robotics qui est en train de développer ni plus ni moins qu'un véhicule chenillé de combat robotique (une sorte de char ultra léger de 15 tonnes), le Type X. D'ici quelques années l'Estonie et d'autres pays européens pourraient être les premiers à se voir doté d'équipement de ce genre. Au vu du contexte géopolitique actuel, il serait dommage de trop se réfréner dans ce domaine comme le voudrait le parlement européen en interdisant les SALA. Bien au contraire même ! Il paraît urgent et nécessaire de creuser l'écart technologique entre l'Europe et la Russie en développant massivement ces systèmes d'armes et en les intégrant le plus vite possible dans nos régiments. L'heure n'est hélas plus à la limitation des armements, mais au développement rapide de notre défense. Pour ce qui est de l'éthique on peut toujours faire comme la France et brider l'autonomie de ces systèmes en en faisant des SALSA, des systèmes d'armes létaux semi-autonomes qui ne peuvent engager le feu sans autorisation humaine. D'un point de vue technologique, il s'agit strictement de la même chose mais sans possibilité de tuer de manière totalement autonome. Face à la menace russe qui risque à l'avenir de se faire chaque jour plus grandissante, ces considérations éthiques sur l'usage des SALA restent nécessaires et légitimes tant qu'elles ne repoussent pas exagérément l'entrée en service de ces systèmes dans nos armées. 

Le véhicule Type X Combat de Milrem Robotics. Un futur "multiplicateur de force" européen ?

L'exemple de l'usage de drone dans guerre globale étatsunienne contre le terrorisme incite à craindre des violations plus facile de la CNU et du principe de souveraineté territoriale grâce aux SALA.  

Ne soyons cependant pas naïf : le développement des SALA présente cependant un véritable risque pour le DIH et le jus contra bellum en rendant plus permissif l'usage de la force létale. L'exemple de la guerre globale contre le terrorisme menée à l'aide de drones par les EUA démontre que l'usage de machine militaire encourage les États à se montrer moins respectueux de l'interdiction du recours à la force, et de nombres de principes fondateurs du DIH comme celui de la souveraineté teritoriale.

La robotique militaire présente les avantages de ne pas mettre en danger l'un de ses soldats, d'utiliser des systèmes d'armes en général bien moins coûteux que leurs équivalent habités (c'est notamment vrai pour les drones aériens comparés aux avions de combats) et dont la perte est acceptable voir négligeable pour l'opinion public, tout en étant suffisamment précis. Enfin elle offre des possibilités étendues d'accès à des espaces dans lesquels des troupes conventionnelles seraient en difficulté (comme une région montagneuse), ou en illégalité (un pays neutre). Cela tend donc à diluer la responsabilité des belligérants qui se permettent une extension de leur champ d'action militaire en violation parfois des règles du Jus contra bellum. C'est notamment le cas avec les EUA qui depuis 20 ans mènent une politique d'assassinat ciblée antiterroriste à l'aide de drones aérien (qui ne sont donc pas des SALA) dans le monde entier (notamment au Pakistan, au Yemen, en Somalie) en violation complète des règles de l'ONU et du respect de la souveraineté nationale. “La technologie a ainsi effacé la relation territoire/conflit” (revue Défense Nationale). Afin de mener leur guerre, les américains à l'aide de drones ont pris la décision d'étendre le champ de bataille là où se trouve l'ennemi (comprendre : où se trouve le terroriste) au nom de la nécessité militaire. La limitation ratione loci (en raison du lieu) de l'usage de la force en temps de guerre est donc violée par Washington, qui se sert de l'usage de machine pour rester en dessous du seuil de l'inacceptable pour la communauté internationale. Pour les pays dont le territoire est impacté par de tels frappes, l'usage de drone et non d'avion de combat rend la violation moins dommageable. Un tel usage des machines militaires inquiète, car on peut tout à fait penser que l'usage des SALA pourrait encore plus décomplexer certaines nations dans leurs usage de la force irrespectueux de la souveraineté territoriale des États neutres. Étant donné que contrairement à un drone, les décisions de l'appareil ne seront pas prises par un opérateur citoyen du pays mettant en œuvre le système, mais directement par le code de la machine. 

General Atomics MQ-1 Predator. Appareil emblématique des éliminations extra-légales étatsuniennes durant la guere contre le terrorisme.

Sans vouloir être trop pessimiste, la prolifération des SALA terrestres, maritimes et aériens dans les prochaines années va probablement élargir les possibilités d'usage de la force létale sous le seuil de la guerre ouverte. L'Histoire retiendra que ce sont les Etats-Unis eux-mêmes qui ont fait jurisprudence en décidant qu'un usage limité de la force à l'aide de drones sur le territoire d'un Etat neutre est compatible avec le respect du DIH. A chacun à présent de définir ce qu'il entend par « force limitée ». Et nul besoin d'être prophète pour supposer que la Russie sera tenté de le faire avec ses voisins européens une fois que d'une manière ou d'une autre elle en aura fini avec l'Ukraine. 

Que devrait contenir un instrument international de régulation des SALA ? 

La régulation des SALA demande donc l'adoption d'un instrument international efficace qui prennent en compte leurs spécificités. La ratification d'un tel instrument paraît complexe au vu du climat géopolitique actuel, qui tend plutôt vers la course aux armements et aux conflits par procuration que vers l'apaisement. Toutefois, une discussion de bonne foi portant sur des points techniques très spécifiques pourrait avoir une chance d'aboutir. 

Pour commencer, cet instrument international d'une part doit assurer que ces engins sont régis par le droit de la guerre classique. Cela est nécessaire, bien qu'évident. D'autre part, il doit légiférer sur les conditions d'engagement de ces SALA, Par exemple, quelles informations doivent avoir les commandants décidant de les déployer, et quelles questions ils doivent se poser par rapport au respect du DIH. En outre, certains principes techniques simples, mais efficaces seraient utiles pour s'assurer d'un minimum vital commun aux SALA des grandes armées pour assurer le respect du Jus in bello. Comme obliger tous les SALA à disposer d'un kill swift, un système d'auto neutralisation intégré en cas de piratage, ou de défaillance technique critique. Obliger l'État à doter les SALA de capacités sensorielles minimales pour pouvoir être en mesure de distinguer les cibles légales des cibles illicites pourrait également grandement efficace. 

Dans le but de faire progresser le consensus autour d'une réglementation internationale sur les SALA, au niveau national, les États devraient être exhortés à publier ouvertement leurs politiques générales, leurs propres règles et politiques nationales dans le développement des SALA afin de promouvoir le partage des meilleures pratiques. A condition bien entendu que ces règles respectent le DIH. Les acteurs de la BITD privés comme publics doivent participer à ce mouvement vertueux, afin de prouver à la communauté internationale le sérieux de la politique étatique. Sans aucun doute de nombreuses règles et détails doivent rester secrets, afin de ne pas compromettre le secret industriel. Mais on ne parle ici que des règles générales. Par exemple, la simple promotion par un État de la coopération entre militaires, juristes et ingénieurs dès la conception du code du SALA pourrait être vertueuse et assurer une meilleure compréhension des militaires des SALA, et donc de meilleures probabilités pour eux de respecter le DIH. 

Jean Desbois

Sources : 

• Pomès, Éric J. « Le déploiement des systèmes d’armes robotisés face au cadre juridique existant », Revue Défense Nationale, vol. h-, no. HS1, 2018, pp. 145-155. 

• Comité d'éthique de la défense : « Avis sur l'intégration de l'autonomie dans les systèmes d'armes létaux ». 29 avril 2021. 

• "Autonomous Weapons and International Law: An Introduction to the Legal and Ethical Implications of Weapon Systems with a Degree of Autonomy" de Shane R. Reeves et Matthew T. Daniels, publié dans le Journal of Law, Technology & Policy en 2019.

• "Autonomous Weapon Systems: A Brief Survey of Developmental, Operational, Legal, and Ethical Issues" de Noel Sharkey, publié dans IEEE Technology and Society Magazine en 2017.

Hasta la vista, baby