Musk, Hawking, Wozniak chiedono il divieto di armi autonome e IA militare per prevenire una "corsa agli armamenti dell'IA militare"

Più di 1.000 ricercatori scientifici ed esperti tecnologici hanno firmato una lettera aperta che chiede ai governi del mondo di vietare lo sviluppo di “armi autonome offensive” per prevenire una “corsa agli armamenti dell’IA militare”.

La lettera, che sarà presentata alla Conferenza Internazionale Congiunta sull’Intelligenza Artificiale (IJCAI) a Buenos Aires, Argentina, domani, è stata firmata da Elon Musk di Tesla, Steve Wozniak co-fondatore di Apple, il CEO di Google DeepMind Demis Hassabis, Noam Chomsky e il Professor Stephen Hawking insieme a dozzine di altri ricercatori di IA e robotica.

La lettera afferma: “La tecnologia dell’IA ha raggiunto un punto in cui il dispiegamento di [armi autonome] è - praticamente se non legalmente - fattibile entro anni, non decenni, e le poste in gioco sono alte: le armi autonome sono state descritte come la terza rivoluzione nella guerra, dopo la polvere da sparo e le armi nucleari.”

Gli autori sostengono che l’IA può essere utilizzata per rendere il campo di battaglia un luogo più sicuro per il personale militare, ma che le armi offensive che operano autonomamente abbasserebbero la soglia per andare in battaglia e comporterebbero una maggiore perdita di vite umane.

La maggior parte della lettera si preoccupa dei veicoli e dei robot stupidi che vengono convertiti in armi autonome intelligenti. Secondo la lettera, i missili da crociera e i droni pilotati a distanza vanno bene perché “gli esseri umani prendono tutte le decisioni di targeting.” Tuttavia, lo sviluppo di armi completamente autonome che possono combattere e uccidere senza interferenza umana dovrebbe essere fermato sul nascere.

Ecco uno dei principali argomenti della lettera:

La domanda chiave per l’umanità oggi è se iniziare una corsa globale agli armamenti dell’IA o prevenirla. Se una qualsiasi grande potenza militare spinge avanti con lo sviluppo di armi IA, una corsa agli armamenti globale è praticamente inevitabile, e il punto finale di questa traiettoria tecnologica è ovvio: le armi autonome diventeranno i Kalashnikov di domani.

Successivamente, la lettera traccia un forte parallelo tra guerra chimica/biologica e armi autonome:

Proprio come la maggior parte dei chimici e dei biologi non ha interesse a costruire armi chimiche o biologiche, la maggior parte dei ricercatori di IA non ha interesse a costruire armi IA — e non vuole che altri macchino il loro campo facendolo, creando potenzialmente una forte reazione pubblica contro l’IA che limita i suoi futuri benefici sociali.

Il Future of Life Institute presenterà la lettera all’IJCAI. Non c’è chiarezza su a chi sia stata indirizzata la lettera, oltre ai ricercatori e accademici che parteciperanno alle conferenze. È forse intesa a sollevare consapevolezza sul problema, affinché non chiudiamo un occhio su qualsiasi ricerca di armi autonome condotta da grandi potenze militari.

Toby Walsh, professore di IA all’Università del New South Wales, ha dichiarato: “Dobbiamo prendere una decisione oggi che plasmerà il nostro futuro e determinerà se seguiamo un cammino di bene. Sosteniamo la richiesta di diverse organizzazioni umanitarie per un divieto delle Nazioni Unite sulle armi autonome offensive, simile al recente divieto sui laser accecanti.”

Elon Musk e Stephen Hawking hanno entrambi avvertito in precedenza dei pericoli dell’IA avanzata. Mentre Hawking ha detto che l’IA è “la nostra più grande minaccia esistenziale” e che lo sviluppo di un’IA completa potrebbe “significare la fine della razza umana”, Musk ha affermato che l’IA è “potenzialmente più pericolosa delle armi nucleari.”

Recentemente, altri, tra cui Wozniak, hanno cambiato idea sull’IA, con il co-fondatore di Apple che ha affermato che i robot sarebbero buoni per gli esseri umani, rendendoli come il “pet di famiglia e curati tutto il tempo”.

Discutendo del futuro delle armi, comprese le cosiddette “armi killer” a una conferenza delle Nazioni Unite a Ginevra in aprile, il Regno Unito si è opposto a un divieto sullo sviluppo di armi autonome, nonostante le richieste di vari gruppi di pressione, inclusa la Campagna per Fermare le Armi Killer.