Les robots devraient-ils être autorisés à tuer des humains ?

Les robots tueurs devraient-ils être autorisés à tuer des humains, demande les Nations Unies !

La technologie a fait un grand bond en avant et les armes militaires sont confiées à agir de manière autonome, cependant, sommes-nous prêts à confier la décision de tuer des vies humaines à ces ‘robots tueurs’ est toujours une grande question !!

Le 13 avril, une réunion d’experts en robotique a eu lieu au CCW (Convention sur les armes classiques) à Genève, pour discuter de l’avenir des ‘Systèmes d’armes autonomes létales’ (LAWS) ou des ‘robots tueurs’.

Une réunion similaire avait eu lieu en mai 2014 lorsque le Directeur général par intérim du Bureau des Nations Unies à Genève, Michael Møller, avait déclaré : « Trop souvent, le droit international ne répond qu’aux atrocités et à la souffrance une fois qu’elles se sont produites. » Ainsi, la réunion tenue plus tôt cette semaine était la seconde de son genre lorsque les experts du CCW se sont réunis pour discuter des diverses technologies létales qui émergent et aussi pour prendre le contrôle de ces technologies avant qu’elles ne soient utilisées par les nations.

Le mot cybersécurité évoque devant nos yeux les images de réseaux virtuels et d’ordinateurs ainsi que la manière dont le logiciel peut être incorporé dans la destruction. Cependant, le concept de cybersécurité a généralement été restreint uniquement aux ordinateurs. Aujourd’hui, le logiciel a atteint même les armes militaires et le logiciel est déployé par diverses nations pour construire la grande machinerie de guerre. Avec la technologie faisant un énorme bond, le jour n’est pas loin où les armes seront totalement autonomes, ici la seule question qui reste à répondre est : sommes-nous prêts à confier la décision de tuer des humains entièrement aux armes autonomes tueuses ! Les armes autonomes qui sont déjà utilisées aujourd’hui nécessitent qu’une personne donne l’ordre de tuer des humains, donc la décision ici reste encore entre les mains de l’opérateur qui émet l’ordre, cependant, dans le cas des armes totalement autonomes, il reste encore une question de savoir qui devrait être blâmé si l’IA décide de tuer des humains sans raison ?

Dans son discours d’ouverture, Jody Williams, lauréate du prix Nobel de la paix et co-fondatrice de la « Campagne pour arrêter les robots tueurs », a clairement mentionné qu’« il est encore temps de dire NON ». Williams a ajouté : « C’est une décision que nous, en tant qu’êtres humains, pouvons prendre. C’est une décision que nous devons prendre. Nous ne devons pas céder le pouvoir de vie et de mort sur d’autres êtres humains à des machines autonomes de notre propre conception. Il n’est pas trop tard. »

En 2013, certaines questions découlant du concept de « robots tueurs » ont été clairement posées par le Secrétaire général de l’ONU Ban Ki-moon qui a été mentionné dans les lignes ci-dessous : « Est-il moralement acceptable de déléguer des décisions concernant l’utilisation de la force létale à de tels systèmes ? Si leur utilisation entraîne un crime de guerre ou une violation grave des droits de l’homme, qui serait légalement responsable ? Si la responsabilité ne peut être déterminée comme l’exige le droit international, est-il légal ou éthique de déployer de tels systèmes ? »

Fondamentalement, la « Campagne pour arrêter les robots tueurs » appelle en réalité à un « interdiction préventive » sur les LAWS, cependant, il semble que l’ONU ne fasse que discuter des armes létales et qu’aucune action supplémentaire ne sera prise pour le moment. En réalité, l’interdiction préventive ne peut être mise en œuvre qu’après un consensus mutuel entre toutes les nations membres qui soutiendront unilatéralement l’interdiction des robots tueurs. Et si l’ONU réussit à obtenir un soutien majoritaire pour interdire les robots tueurs, cela signifierait que les LAWS seront interdites même avant qu’elles ne deviennent une réalité. Cependant, ce ne sera pas la première fois que l’ONU interdira quelque chose avant qu’il ne devienne une réalité, une décision similaire a été prise par l’ONU en 1995 lorsque le « Protocole sur les armes laser aveuglantes » a été interdit par l’ONU car il était censé être excessivement blessant ou avoir des effets indiscriminés.

Au cours des derniers mois, de nombreuses personnes ont discuté de la menace potentielle de l’intelligence artificielle pour les êtres humains. L’Université de Stanford a fait un pas en avant et travaille sur une « étude de 100 ans sur les effets de l’intelligence artificielle AI100 », cette étude constitue essentiellement les effets réels de l’IA sur chaque aspect de la vie humaine.

D’autre part, de nombreux experts du domaine de l’informatique et de l’IA ont signé une « lettre ouverte » où les détails des recherches en cours sont ajoutés à la liste pour vérifier les avantages de l’IA pour la race humaine.

Avec toutes les discussions sur le ‘robot tueur’, la France et le Royaume-Uni semblent être assez clairs qu’ils ne poursuivront pas de telles armes autonomes. Cependant, Israël et les États-Unis laissent encore la porte ouverte à l’acquisition future de ces armes. En fait, aucune des nations ne semble prête pour le moment à l’interdiction préventive des LAWS.

Que pensent nos lecteurs de cette décision ? L’IA devrait-elle être introduite dans les armes militaires en créant des robots tueurs virtuels qui pourraient un jour essayer de penser plus intelligemment que les humains et commencer à tuer des humains pour protéger leurs propres clones « robots tueurs IA »…… réfléchissez-y !!