I robot dovrebbero essere autorizzati a uccidere gli esseri umani?

I robot killer dovrebbero essere autorizzati a uccidere gli esseri umani, chiede l’ONU!

La tecnologia ha fatto un grande balzo in avanti e le armi militari sono affidate ad agire autonomamente, tuttavia siamo pronti a consegnare la decisione di uccidere vite umane nelle mani di questi ‘Robot Killer’ è ancora una grande domanda!!

Il 13 aprile si è tenuto un incontro di esperti di robotica al CCW (Convenzione sulle armi convenzionali) a Ginevra, per discutere il futuro dei ‘Sistemi di Armi Autonome Letali’ (LAWS) o i ‘Robot Killer’.

Un incontro simile si era tenuto già nel maggio 2014 quando l’allora direttore generale ad interim dell’Ufficio delle Nazioni Unite a Ginevra, Michael Møller, aveva detto: “Troppo spesso il diritto internazionale risponde solo alle atrocità e alle sofferenze una volta che sono accadute.” Quindi l’incontro tenutosi all’inizio di questa settimana è stato il secondo del suo genere quando gli esperti del CCW si sono riuniti per discutere delle varie tecnologie letali che stanno emergendo e anche per avere un controllo su queste tecnologie prima che vengano utilizzate dalle nazioni.

La parola sicurezza informatica porta davanti ai nostri occhi le immagini di reti virtuali e computer e anche il modo in cui il software può essere incorporato nella distruzione. Tuttavia, il concetto di sicurezza informatica è stato generalmente ristretto solo ai computer. Oggi, il software è arrivato anche alle armi militari e il software viene impiegato da varie nazioni per costruire la principale macchina da guerra. Con la tecnologia che sta facendo un enorme balzo, il giorno non è lontano quando le armi saranno completamente autonome, qui l’unica domanda che deve ancora ricevere risposta è se siamo pronti a consegnare la decisione di uccidere gli esseri umani interamente nelle mani delle armi killer autonome! Le armi autonome che sono già utilizzate oggi richiedono una persona che dia il comando di uccidere gli esseri umani, quindi la decisione qui rimane ancora nelle mani dell’operatore che emette il comando, tuttavia nelle armi totalmente autonome è ancora una domanda a chi dovremmo dare la colpa nel caso in cui l’IA decida di uccidere gli esseri umani senza motivo?

Nella sua apertura, Jody Williams, premio Nobel per la pace e co-fondatrice della “Campagna per fermare i robot killer”, ha chiaramente affermato che “c’è ancora tempo per dire NO”. Williams ha ulteriormente notato: “Questa è una decisione che noi come esseri umani possiamo prendere. È una decisione che dobbiamo prendere. Non dobbiamo cedere il potere di vita e di morte su altri esseri umani a macchine autonome di nostra progettazione. Non è troppo tardi.”

Nel 2013, alcune domande derivanti dal concetto di “Robot Killer” sono state chiaramente sollevate dal Segretario Generale dell’ONU Ban Ki-moon che sono state menzionate nelle righe sottostanti: “È moralmente accettabile delegare decisioni sull’uso della forza letale a tali sistemi? Se il loro uso risulta in un crimine di guerra o in una grave violazione dei diritti umani, chi sarebbe legalmente responsabile? Se la responsabilità non può essere determinata come richiesto dal diritto internazionale, è legale o etico impiegare tali sistemi?”

Fondamentalmente, la “Campagna per fermare i robot killer” chiede effettivamente un “Divieto Preventivo” sui LAWS, tuttavia sembra che l’ONU stia solo discutendo delle armi letali e non verrà presa alcuna ulteriore azione per ora. In realtà, il divieto precauzionale può essere realizzato solo dopo un consenso reciproco tra tutte le nazioni membri che supporteranno unilateralmente il divieto dei robot killer. E se l’ONU avrà successo nel ottenere un sostegno maggioritario per vietare i robot killer, significherebbe che i LAWS saranno vietati anche prima che diventino una realtà. Tuttavia, non sarà la prima volta che l’ONU vieterà qualcosa prima che diventi una realtà, una decisione simile è stata presa dall’ONU nel 1995 quando il “Protocollo sulle armi laser accecanti” è stato vietato dall’ONU perché si supponeva fosse eccessivamente dannoso o avere effetti indiscriminati.

Negli ultimi mesi molte persone hanno discusso della potenziale minaccia dell’Intelligenza Artificiale per gli esseri umani. L’Università di Stanford ha fatto un passo avanti e sta lavorando a uno “studio di 100 anni sugli effetti dell’Intelligenza Artificiale AI100”, fondamentalmente questo studio costituisce gli effetti reali dell’IA su ogni aspetto della vita umana.

D’altra parte, molti esperti del campo dell’informatica e dell’IA hanno firmato una ‘Lettera Aperta’ dove i dettagli delle ricerche in corso vengono aggiunti all’elenco per controllare i benefici dell’IA per la razza umana.

Con tutte le discussioni in corso sui ‘Robot Killer’, Francia e Regno Unito sembrano essere abbastanza chiari nel non perseguire tali armi autonome. Tuttavia, Israele e Stati Uniti stanno ancora lasciando aperte le porte per l’acquisizione futura di queste armi. Infatti, nessuna delle nazioni sembra essere pronta al momento per il divieto preventivo dei LAWS.

Cosa ne pensano i nostri lettori di questa decisione? Dovrebbe essere introdotta l’IA nelle armi militari creando robot killer virtuali che un giorno potrebbero cercare di pensare più intelligentemente degli esseri umani e iniziare a uccidere gli esseri umani per proteggere i propri cloni “Robot Killer IA”……pensateci!!