L'ONU appelée à interdire les drones entièrement autonomes et les robots tueurs avant qu'ils ne puissent être développés

Un rapport de Human Rights Watch et de la Harvard Law School a appelé l’ONU à créer un traité international qui puisse interdire les soi-disant “robots tueurs” avant qu’ils ne puissent être développés.

Des bénévoles de Human Rights Watch et de la Harvard Law School ont travaillé ensemble pour rédiger un rapport connu sous le nom de “Mind the Gap”, qui donne des détails sur la manière dont les armes entièrement autonomes manquent de réglementation et pourraient être la cause de décès humains sans aucune responsabilité. Sur la base de ce rapport, le groupe exerce maintenant des pressions sur l’ONU pour interdire le développement de toute arme entièrement autonome qui pourrait probablement nuire aux humains en l’absence d’opérateurs. Bien que les armes entièrement autonomes soient encore en phase de développement, Human Rights Watch et la Harvard Law School ont recommandé à l’ONU d’instaurer des lois internationales strictes qui non seulement interdisent le développement, la production et l’utilisation des armes entièrement autonomes, mais qui lient également légalement d’autres nations à ne pas créer de telles armes.

L’intelligence artificielle a des conséquences et les fabricants tirent pleinement parti des technologies pour créer des drones et des véhicules autonomes, y compris la voiture entièrement autonome de Google, Parrot, une entreprise qui crée des drones de loisir pour ses consommateurs, et également le projet Prime Air d’Amazon qui livrerait les colis des clients par véhicule aérien non armé, cependant tous ces projets sont encore en phase de développement. Bien que les régulateurs travaillent sur des moyens d’obtenir l’approbation des licences pour ces véhicules commerciaux autonomes, les bénévoles de Human Rights Watch et de la Harvard Law School exhortent les autorités à établir des lois qui devraient être mises en place avant l’octroi de licences pour fabriquer de tels “robots tueurs” autonomes. Récemment, la FAA (Administration fédérale de l’aviation) a imposé des restrictions sur l’utilisation commerciale des drones autonomes.

The Guardian a récemment rapporté sur “Mind the Gap”, qui est un rapport conjoint élaboré par Human Rights Watch et la Harvard Law School. Le rapport soutient que la loi actuelle permettrait aux fabricants, programmeurs et militaires de se décharger facilement de toute responsabilité en cas de décès sur le terrain en raison des armes autonomes. Le rapport attire également l’attention des autorités de l’ONU sur le fait qu’il n’existe pas de cadre juridique approprié pour ces drones autonomes et les armes lors de leur fabrication et de leur élimination, ce qui rend difficile de tenir quiconque responsable en cas d’erreur. Le rapport précise également que, puisqu’il n’y a pas d’humain assigné aux armes entièrement autonomes, il y a des chances que ces armes soient erronément ciblées sur des civils plutôt que sur des militaires. Le rapport déclare également : “Les armes entièrement autonomes n’existent pas encore, mais la technologie évolue dans cette direction, et des précurseurs sont déjà en usage ou en développement. Par exemple, de nombreux pays utilisent des systèmes de défense armés — tels que le Dôme de fer israélien et le Phalanx et C-RAM américains — qui sont programmés pour répondre automatiquement aux menaces provenant de munitions entrantes. De plus, des prototypes existent pour des avions qui pourraient voler de manière autonome lors de missions intercontinentales (UK Taranis) ou décoller et atterrir sur un porte-avions (US X-47B).” De plus, le rapport indique : “Les mécanismes existants de responsabilité légale sont mal adaptés et insuffisants pour traiter les dommages illégaux que les armes entièrement autonomes pourraient causer. Ces armes ont le potentiel de commettre des actes criminels — des actes illégaux qui constitueraient un crime s’ils étaient commis avec intention — pour lesquels personne ne pourrait être tenu responsable. Une arme entièrement autonome elle-même ne pourrait pas être considérée comme responsable d’actes criminels qu’elle pourrait commettre car elle manquerait d’intentionnalité.”

Le rapport ajoute que dans les scénarios de guerre actuels, l’armement automatisé et les drones utilisés par le personnel militaire ont un opérateur humain qui prend la décision de tirer, et donc pour tout abus de l’arme automatisée, il sera tenu responsable. Cependant, dans le cas d’une arme entièrement automatisée, il sera difficile de trouver quelqu’un en cas d’abus de l’arme et du drone. De plus, en cas de blunder dû à une erreur, il sera difficile de déterminer qui sera tenu responsable. Donner le contrôle total à une machine signifierait un manque de contrôle humain significatif dans le choix et l’engagement des cibles.

Le rapport a également donné quelques suggestions alternatives où il est dit qu’un commandant ou un programmeur devrait être tenu responsable de toute erreur ou négligence. Cela imposerait une responsabilité civile à ce personnel ou programmeur particulier et prouverait ainsi utile pour fournir une compensation, un jugement et un sentiment de justice aux victimes lésées. Le rapport ajoute : “Le manque de contrôle humain significatif place les armes entièrement autonomes dans une position ambiguë et troublante. D’une part, alors que les armes traditionnelles sont des outils entre les mains d’êtres humains, les armes entièrement autonomes, une fois déployées, prendraient leurs propres décisions concernant l’utilisation de la force létale. Elles remettraient ainsi en question les notions de longue date sur le rôle des armes dans les conflits armés, et pour certaines analyses juridiques, elles seraient plus proches d’un soldat humain que d’une arme inanimée. D’autre part, les armes entièrement autonomes seraient loin d’être humaines.”

La réunion des responsables internationaux de l’ONU se tiendra à la fin de ce mois à Genève pour discuter de la réglementation des technologies militaires émergentes. Il semble que le rapport ait été publié à l’avance pour que les responsables puissent l’examiner et formuler leurs suggestions à ce sujet.