Les systèmes d’armes létales autonomes (SALA) posent de nombreuses questions éthiques et juridiques. C’est pourquoi le comité éthique de la défense a été saisi de cette question et a rendu un avis le 29 avril 2021 dans lequel il se prononce favorablement à l’utilisation de certains types d’armes létales autonomes.
Les SALA : une technologie déjà présente sur le terrain
Les systèmes d’armes létales autonomes sont aujourd’hui une réalité, de nouveaux types de SALA voient régulièrement le jour. C’est le cas du Robot chien présenté par l’entreprise Ghost robotics en octobre 2021, ce dernier est équipé d’un fusil de précision et d’un système optronique lui permettant d’atteindre des cibles à longue et moyenne distance. En outre, la frontière entre la Corée du Nord et la Corée du Sud est aujourd’hui en partie surveillée par le robot SGR-A1 développé par Samsung qui lui aussi est armé. Il est capable de reconnaître des cibles et d’ouvrir le feu de manière autonome même si selon les autorités sud-coréennes cette fonction n’a jamais été activée.
Une catégorisation selon le type de système par le Comité
C’est dans l’optique de mener une réflexion sur l’utilisation des SALA, que le Comité éthique de la défense s’est vu confier la mission d’établir un rapport et d’émettre un avis sur leur utilisation au sein des forces armées françaises.
Le comité effectue une distinction entre deux types de SALA selon la place que prend l’humain dans la prise de décisions :
- Les SALA, à proprement dit, sont des systèmes qui utilisent un programme qui leur permet de prendre une décision de manière autonome sans appréciation par le commandement.
- Les SALIA (système d’armes létales intégrant de l’autonomie), ce sont des systèmes auxquels le commandement peut affecter des missions telles que l’identification, ou l’engagement après avoir analysé la situation. Ils disposent d’une autonomie, mais majoritairement concernant des fonctionnalités de bas niveau qui ne sont pas critiques.
Un feu vert conditionnel pour l’utilisation des SALIA
Dans son avis, le comité est défavorable à l’utilisation des SALA à proprement dit, pour plusieurs raisons, notamment parce qu’il n’y aurait plus de continuité dans la chaine de commandement et que leur utilisation risquerait de mettre en péril l’application des principes de droit international humanitaire par les combattants.
En revanche, le comité est favorable à une utilisation encadrée des SALIA. Le comité estime que tant que l’humain est présent pour faire respecter la chaîne de commandement et que c’est lui qui prend la décision, il est envisageable d’utiliser des SALIA. Néanmoins, pour que cette utilisation reste éthique, il faut instaurer des garanties et un encadrement à l’utilisation des SALIA :
- L’humain doit rester responsable du comportement imputé à la machine ;
- Le commandement doit fixer un cadre de mission précis pour chaque utilisation d’un SALIA ;
- Il est nécessaire d’instaurer un processus de validation technique et opérationnel des capacités d’autonomie décisionnelles d’un SALIA ;
- Il est nécessaire de disposer d’une méthode d’analyse des risques de l’utilisation d’un SALIA ;
- Le commandement doit être formé à l’utilisation d’un SALIA et disposer d’une fonction de désactivation d’urgence ;
- Il est nécessaire d’identifier les responsabilités respectives de chaque acteur de la durée de vie d’un SALIA ;
La vision des SALA du comité éthique de la défense correspond parfaitement à celle du gouvernement, notamment exprimée lors du discours d’Orsay du 5 avril 2019. Dans ce discours qui entre autres annonçait la création du comité éthique de la défense, Florence Parly, la ministre des armées, annonçait renoncer à confier à l’intelligence artificielle la décision de vie ou de mort. En revanche, elle ne renonce pas à instaurer différents degrés d’automatisation dans les systèmes d’armement, mais en y maintenant un contrôle humain.
Hugo Berviller
Sources :
