Ce robot peut intentionnellement blesser des personnes et les faire saigner

Skynet Redux : Ce robot blesse des personnes intentionnellement et les fait saigner

De nombreux apologistes de l’IA et de la robotique fondent leur soutien à l’IA sur la Première Loi de la Robotique d’Asimov.

La Première Loi de la Robotique d’Asimov est très claire : Les robots ne peuvent pas nuire aux personnes.

Les prédicateurs de l’apocalypse, y compris Elon Musk de Tesla, ont longtemps prédit une domination de style Terminator par l’IA, mais les apologistes et les partisans de la robotique se sont toujours appuyés sur la première loi de la robotique d’Asimov pour défendre les innovations en IA et en robotique.

Bien qu’il existe certainement un certain nombre de grands robots, souvent utilisés dans la fabrication, que l’on pourrait considérer comme dangereux, les roboticiens ont largement échoué à respecter cette règle.

Le géant de la science-fiction Isaac Asimov, qui a rédigé la « loi » dans sa nouvelle de 1942, Runaround, faisait partie des trois règles, dont la seconde stipule : « Un robot doit obéir aux ordres qui lui sont donnés par des êtres humains, sauf si ces ordres entrent en conflit avec la Première Loi. »

Certes, des accidents impliquant des robots se produisent, par exemple, lorsque quelqu’un s’approche trop d’un robot industriel.

Cependant, maintenant, un homme de Berkeley, en Californie, souhaite engager une conversation saine parmi les éthiciens, les philosophes, les avocats et d’autres sur la direction que prend la technologie et quels dangers les robots présenteront à la civilisation à l’avenir. Alexander Reben, un roboticien et artiste, a développé un robot de table dont le seul but mécanique est de blesser des personnes. Reben espère que son Frankenstein fera parler les gens.

Avant de bloquer vos portes et fenêtres, définissons les termes : Le mal causé par le robot de Reben n’est rien de plus qu’une piqûre, bien que livrée à grande vitesse, causant le maximum de douleur qu’une petite aiguille puisse causer sur un bout de doigt.

Et amusant, il a conçu la machine de sorte que la blessure soit causée de manière aléatoire. Parfois, le robot frappe. Parfois, il ne le fait pas. Même Reben, lorsqu’il expose son bout de doigt au danger, n’a aucune idée s’il finira par saigner ou non.

Dans une grande pièce au dernier étage de la belle maison victorienne où Reben vit et travaille en tant que membre de Stochastic Labs, un incubateur d’événements artistiques, technologiques et scientifiques à Berkeley, il déclare : « Personne n’a réellement fabriqué un robot conçu pour blesser et nuire intentionnellement à quelqu’un. Je voulais créer un robot qui fasse cela et qui existe réellement… C’était important pour moi de le sortir du domaine de l’expérience de pensée pour le mettre dans la réalité, car une fois que quelque chose existe dans le monde, vous devez y faire face. Cela devient plus urgent. Vous ne pouvez pas simplement en parler. »

Kate Darling, chercheuse au MIT Media Lab qui étudie « l’impact sociétal à court terme de la technologie robotique », lorsqu’on lui a demandé son avis sur l’expérience, a déclaré qu’elle l’aimait, principalement parce qu’elle inclut des robots. « Je ne veux pas y mettre ma main, cependant, » ajoute-t-elle.

Reben est peut-être mieux connu comme le créateur du BlabDroid, un petit robot qui semble inoffensif et qui motive d’une manière ou d’une autre les personnes qu’il croise à lui raconter des histoires sur leur vie. Au fil des ans, son travail s’est concentré sur les relations que les gens entretiennent avec la technologie et comment cette technologie peut nous aider à comprendre notre humanité.

Il est très conscient que les gens ont de plus en plus peur des robots, soit parce qu’ils représentent un certain danger physique théorique pour nous, soit parce qu’ils sont perçus par beaucoup comme étant en train de nous remplacer. Les refrains communs de nos jours sont « Les robots vont prendre le contrôle » ou « Les robots vont prendre nos emplois. »

Reben veut inciter les gens à s’opposer à la question de la manière de gérer les dangers des robots bien avant qu’ils ne se produisent réellement. En général, un tel travail pourrait incomber aux universitaires, mais Reben pense qu’aucun institut de recherche ne pourrait se permettre de développer un robot qui blesse réellement les gens. De même, aucune entreprise ne va fabriquer un tel robot parce qu’il croit que « vous ne voulez pas être connu comme la première entreprise qui a fabriqué un robot pour causer intentionnellement de la douleur. »

« Avec une technologie de plus en plus autonome, il pourrait être plus logique de considérer les robots comme analogues aux animaux, dont le comportement n’est pas toujours prévisible. »

Il dit qu’il vaut mieux laisser de telles choses au monde de l’art, où « les gens ont l’esprit ouvert. »

Il est possible qu’il n’y ait pas beaucoup d’indignation étant donné que son robot ne déchire pas les bras des gens, ni ne les écrase en petits morceaux, du moins pas de la manière qui résulterait si sa machine causait des dommages graves.

Reben espère que des personnes provenant de domaines aussi disparates que le droit, la philosophie, l’ingénierie et l’éthique prêteront attention à ce qu’il a construit. « Ces personnes interdisciplinaires doivent se rassembler, » dit Reben, « pour résoudre certains de ces problèmes que personne d’entre eux ne peut comprendre ou résoudre complètement. »

Il envisage que les avocats argumenteront sur les problèmes de responsabilité entourant un robot qui peut nuire aux gens, tandis que les éthiciens réfléchiront à la question de savoir s’il est même acceptable de penser à une telle expérience. Les philosophes se demanderont pourquoi un tel robot existe.

Cependant, il y a une raison de croire que les lois d’Asimov ne nous auraient de toute façon jamais protégés.

En 2014, Ben Goertzel, théoricien de l’IA et scientifique en chef de la société de prévision financière Aidyia Holdings, a déclaré à io9 que « le but des Trois Lois était d’échouer de manière intéressante ; c’est ce qui rendait la plupart des histoires les impliquant intéressantes. Ainsi, les Trois Lois étaient instructives en termes d’enseignement sur la façon dont toute tentative de légiférer l’éthique en termes de règles spécifiques est vouée à échouer et à avoir diverses échappatoires. »

Expérience ou non, Darling soutient que Reben porte la responsabilité éthique de tout dommage provoqué par son robot puisqu’il est celui qui l’a conçu.

« Nous pouvons progressivement nous éloigner de la responsabilité éthique pour les dommages causés par des robots autonomes, » dit Darling. « Bien sûr, le système juridique attribue toujours la responsabilité… mais plus nous nous éloignons de la capacité à anticiper le comportement d’un robot, moins le dommage est ‘intentionnel’. »

À mesure que la technologie s’améliore, nous devrons peut-être reconsidérer notre façon de voir les machines, croit-elle.

« D’un point de vue de responsabilité, » dit Darling, « les robots seront plus que de simples outils que nous manions comme une extension de nous-mêmes. Avec une technologie de plus en plus autonome, il pourrait être plus logique de considérer les robots comme analogues aux animaux, dont le comportement n’est pas toujours prévisible. »

Cependant, pour Reben, il espère simplement qu’à mesure que la technologie autonome progresse, les gens cessent de mettre la tête dans le sable.

« Je veux que les gens commencent à confronter la physicalité de cela, » dit Reben. « Cela soulèvera un peu plus de sensibilisation en dehors du domaine philosophique. »

« Il y aura toujours des situations où l’imprévu se produira, et comment y faire face sera une chose importante à considérer. »

Fast Company.