La sfida di hacking DARPA per testare l'IA come difensori della cybersicurezza

La sfida di hacking IA di DARPA porterà a Skynet, dice Elon Musk

Recentemente, l’Agenzia per i Progetti di Ricerca Avanzata della Difesa (DARPA) ha annunciato una Cyber Grand Challenge, che avrà sette squadre che parteciperanno a un concorso di hacking con un montepremi di 3,75 milioni di dollari che si concluderà a Las Vegas questo agosto. I premi sono sotto forma di 2 milioni di dollari per il primo posto, 1 milione per il secondo posto e 750.000 dollari per il terzo posto. L’obiettivo del torneo è sviluppare Skynet.

Skynet è un sistema di intelligenza artificiale generale, consapevole e gestaltico, che gioca un ruolo centrale nel franchise di Terminator e funge da principale antagonista del franchise.

Musk ha twittato un avvertimento non troppo velato giovedì mattina. Questa non è la prima volta che lascia un record di essere provocato da un supercomputer antagonista.

L’obiettivo reale è costruire un’intelligenza artificiale (IA) automatizzata che possa scansionare autonomamente i server di rete dei rivali per vulnerabilità e proteggere i propri server trovando e correggendo attivamente i difetti software. Fondamentalmente, desiderano creare un hacker straordinario IA non supervisionato e senza vincoli che rileverà le vulnerabilità complementari e le correggerà da solo. Attualmente, questo lavoro ingrato di cybersicurezza è svolto, ovviamente, da persone. Gli hacker esperti sono abili nell’anticipare e regolare le vulnerabilità, ma l’offerta è insufficiente rispetto alla domanda. Il processo di regolazione di un difetto, scrive DARPA, “può richiedere oltre un anno dalla prima rilevazione al dispiegamento di una soluzione, momento in cui i sistemi critici potrebbero già essere stati violati.”

Tuttavia, ironicamente, la domanda di soluzioni rapide a problemi di sicurezza pervasivi continuerà a crescere, poiché sempre più dispositivi comunicano informazioni su Internet ogni anno. Secondo DARPA, un’IA complementare per la cybersicurezza sarebbe “la prima generazione di macchine in grado di scoprire, dimostrare e correggere difetti software in tempo reale, senza alcun aiuto” che potrebbe rendere il nostro mondo molto più sicuro.

Ma Elon Musk potrebbe suggerire il contrario.

È tutto divertimento e giochi fino a quando … https://t.co/cRAn0S8ooX — Elon Musk (@elonmusk) 14 luglio 2016

Sebbene il tweet di Musk possa sembrare uno scherzo, d’altra parte ha fatto cose come firmare questa lettera aperta che avverte riguardo all’IA e chiamare l’IA la nostra “più grande minaccia esistenziale.” Musk sa probabilmente che questa sfida DARPA probabilmente non darà vita a Skynet, anche se per lui sembra critico che le persone considerino una probabilità di intelligenza sintetica maligna. Non ci sarà modo di fermarla, una volta che noi come folla liberiamo una bestia del genere, dicono i profeti di sventura.