Questo robot può ferire intenzionalmente le persone e farle sanguinare

Skynet Redux : Questo robot ferisce le persone di proposito e le fa sanguinare

Molti sostenitori dell’IA e della robotica basano il loro supporto per l’IA sulla Prima Legge della Robotica di Asimov.

La Prima Legge della Robotica di Asimov è molto chiara: i robot non possono nuocere alle persone.

I predittori del giorno del giudizio, tra cui Elon Musk di Tesla, hanno a lungo previsto una dominazione di tipo Terminator di Skynet da parte dell’IA, ma i sostenitori e i difensori della robotica hanno sempre fatto affidamento sulla prima legge della robotica di Asimov per difendere le innovazioni nell’IA e nella robotica.

Anche se ci sono sicuramente un certo numero di grandi robot, spesso utilizzati nella produzione, che si potrebbe pensare siano pericolosi, i robotici hanno in gran parte trascurato quella regola.

Il gigante della fantascienza Isaac Asimov, che ha scritto la “legge” nel suo racconto del 1942 Runaround, era una delle tre regole, la seconda delle quali recita: “Un robot deve obbedire agli ordini che gli vengono dati dagli esseri umani, tranne nei casi in cui tali ordini possano entrare in conflitto con la Prima Legge.”

Certamente, gli incidenti che coinvolgono robot si verificano, ad esempio, quando qualcuno si avvicina troppo a un robot industriale.

Tuttavia, ora un uomo di Berkeley, California, vuole avviare una conversazione sana tra eticisti, filosofi, avvocati e altri su dove sta andando la tecnologia e quali pericoli i robot presenteranno alla civiltà in futuro. Alexander Reben, un robotico e artista, ha sviluppato un robot da tavolo il cui unico scopo meccanico è ferire le persone. Reben spera che il suo Frankenstein faccia parlare le persone.

Prima di bloccare porte e finestre, definiamo i termini: il danno causato dal robot di Reben non è altro che una puntura, sebbene venga inflitta ad alta velocità, causando la massima quantità di dolore che una piccola ago può causare su una punta di dito.

E in modo divertente, ha progettato la macchina in modo che il danno sia causato in modo non sistematico. A volte, il robot colpisce. A volte, no. Anche Reben, quando espone la sua punta di dito al pericolo, non ha idea se finirà per far uscire sangue o meno.

In una grande stanza all’ultimo piano della bellissima villa vittoriana dove Reben vive e lavora come membro di Stochastic Labs, un incubatore di eventi artistici, tecnologici e scientifici di Berkeley, afferma: “Nessuno ha effettivamente realizzato un robot progettato per ferire e danneggiare intenzionalmente qualcuno. Volevo creare un robot che facesse questo e che esistesse davvero… Era importante per me, portarlo fuori dal regno dell’esperimento mentale nella realtà, perché una volta che qualcosa esiste nel mondo, devi affrontarlo. Diventa più urgente. Non puoi semplicemente pontificare su di esso.”

Kate Darling, una ricercatrice del MIT Media Lab che studia “l’impatto sociale a breve termine della tecnologia robotica”, quando le è stato chiesto un parere sull’esperimento, ha detto che le piaceva, principalmente perché include robot. “Non voglio metterci la mano, però,” aggiunge.

Reben è probabilmente meglio conosciuto come il creatore del BlabDroid, un piccolo robot dall’aspetto innocuo che in qualche modo motiva le persone che incontra a raccontargli storie sulle loro vite. Nel corso degli anni, il suo lavoro si è concentrato sulle relazioni che le persone hanno con la tecnologia e su come quella tecnologia può aiutarci a comprendere la nostra umanità.

È stato molto consapevole che le persone hanno paura dei robot, sia perché pongono qualche tipo di pericolo fisico teorico per noi, sia perché molti li vedono come destinati a sostituirci. I refrain comuni di questi giorni sono “I robot prenderanno il sopravvento” o “I robot ci porteranno via i lavori.”

Reben vuole costringere le persone a opporsi alla questione di come affrontare i pericoli dei robot molto prima che si verifichino realmente. Di solito, un compito del genere potrebbe spettare agli accademici, ma Reben crede che nessuna istituzione di ricerca potrebbe permettersi di sviluppare un robot che ferisce davvero le persone. Allo stesso modo, nessuna azienda realizzerà un robot del genere perché, crede, “non vuoi essere conosciuto come la prima azienda che ha creato un robot per causare intenzionalmente dolore.”

“Con la tecnologia sempre più autonoma, potrebbe avere più senso considerare i robot come analoghi agli animali, il cui comportamento non possiamo sempre anticipare.”

Dice che è meglio lasciare tali cose al mondo dell’arte, dove “le persone hanno menti aperte.”

È possibile che non ci sarà molto sdegno dato che il suo robot non sta strappando le braccia alle persone, né schiacciando nessuno in piccoli pezzi, almeno non il tipo che risulterebbe se la sua macchina stesse causando danni gravi.

Reben spera che persone di campi così disparati come diritto, filosofia, ingegneria ed etica notino ciò che ha costruito. “Queste persone interdisciplinari devono unirsi,” dice Reben, “per risolvere alcuni di questi problemi che nessuno di loro può affrontare o risolvere completamente.”

Visualizza che gli avvocati discuteranno i problemi di responsabilità riguardanti un robot che può nuocere alle persone, mentre gli eticisti si chiederanno se sia anche giusto pensare a un esperimento del genere. I filosofi si interrogheranno sul perché esista un robot del genere.

Tuttavia, c’è un motivo per credere che le leggi di Asimov non ci avrebbero mai protetto comunque.

Nel 2014, Ben Goertzel, teorico dell’IA e scienziato capo della società di previsione finanziaria Aidyia Holdings, ha detto a io9 che “Il punto delle Tre Leggi era fallire in modi interessanti; è ciò che ha reso la maggior parte delle storie che le coinvolgono interessanti. Quindi le Tre Leggi erano istruttive in termini di insegnarci come qualsiasi tentativo di legiferare l’etica in termini di regole specifiche è destinato a fallire e avere varie scappatoie.”

Esperimento o meno, Darling sostiene che Reben porta la responsabilità etica per qualsiasi danno instigato dal suo robot poiché è lui a averlo progettato.

“Potremmo gradualmente allontanarci dalla responsabilità etica per il danno quando si tratta di robot autonomi,” dice Darling. “Certo, il sistema legale assegna ancora responsabilità… ma più ci allontaniamo dalla capacità di anticipare il comportamento di un robot, meno il danno è ‘intenzionale’.”

Con il miglioramento della tecnologia, potremmo dover riconsiderare il modo in cui guardiamo alle macchine, crede.

“Da un punto di vista della responsabilità,” dice Darling, “i robot saranno più di semplici strumenti che maneggiamo come un’estensione di noi stessi. Con la tecnologia sempre più autonoma, potrebbe avere più senso considerare i robot come analoghi agli animali, il cui comportamento non possiamo sempre anticipare.”

Tuttavia, per Reben, spera solo che con l’avanzare della tecnologia autonoma, le persone smettano di nascondere la testa nella sabbia.

“Voglio che le persone inizino a confrontarsi con la fisicità di tutto ciò,” dice Reben. “Questo solleverà un po’ più di consapevolezza al di fuori del regno filosofico.”

“Ci saranno sempre situazioni in cui l’imprevisto accadrà, e come affrontare ciò sarà una cosa importante su cui riflettere.”

Fast Company.