DARPA Hacking Challenge zur Prüfung von KI als Cybersecurity-Verteidiger

DARPA KI-Hacking-Herausforderung wird zu Skynet führen, sagt Elon Musk

Kürzlich kündigte die Defense Advanced Research Projects Agency (DARPA) eine Cyber Grand Challenge an, an der sieben Teams teilnehmen werden, die in einem Hacking-Wettbewerb mit einem Preisgeld von 3,75 Millionen US-Dollar antreten, der diesen August in Las Vegas endet. Die Belohnungen bestehen aus einem Preis von 2 Millionen US-Dollar für den ersten Platz, 1 Million US-Dollar für den zweiten Platz und 750.000 US-Dollar für den dritten Platz. Das Ziel des Turniers ist es, Skynet zu entwickeln.

Skynet ist ein fiktives, bewusstes, gestaltendes, künstliches allgemeines Intelligenzsystem, das zentral in der Terminator-Franchise vorkommt und als Hauptantagonist der Franchise dient.

Musk twitterte am Donnerstagmorgen eine nicht so verschleierte Warnung. Dies ist nicht das erste Mal, dass er sich als provoziert von einem antagonistischen Supercomputer äußert.

Das eigentliche Ziel ist es, eine automatisierte künstliche Intelligenz (KI) zu entwickeln, die autonom die Netzwerkserver von Rivalen auf Schwachstellen scannen und ihre eigenen Server schützen kann, indem sie aktiv Softwarefehler findet und behebt. Grundsätzlich möchten sie einen unbeaufsichtigten, unbeschränkten KI-Hacker von außergewöhnlichem Talent schaffen, der Schwachstellen erkennt und sie selbst behebt. Derzeit wird dieser undankbare Job der Cybersecurity natürlich von Menschen erledigt. Experten-Hacker sind geschickt darin, Schwachstellen vorherzusehen und zu regulieren, aber das Angebot reicht nicht an die Nachfrage heran. Der Prozess der Regulierung eines Fehlers, schreibt DARPA, „kann über ein Jahr von der ersten Entdeckung bis zur Bereitstellung einer Lösung in Anspruch nehmen, bis zu dem Zeitpunkt, an dem kritische Systeme möglicherweise bereits kompromittiert wurden.“

Ironischerweise wird die Nachfrage nach schnellen Lösungen für weit verbreitete Sicherheitsprobleme nur weiter steigen, da jedes Jahr immer mehr Geräte Informationen über das Internet austauschen. Laut DARPA wäre eine Cybersecurity-KI-Ergänzung „die erste Generation von Maschinen, die Softwarefehler in Echtzeit entdecken, beweisen und beheben können, ohne jegliche Unterstützung“, was unsere Welt viel sicherer machen könnte.

Aber Elon Musk könnte etwas anderes vorschlagen.

Es ist alles Spaß und Spiel, bis … https://t.co/cRAn0S8ooX — Elon Musk (@elonmusk) 14. Juli 2016

Während Musks Tweet wie ein Scherz erscheinen mag, hat er auch Dinge getan, wie diesen offenen Brief zu unterzeichnen, der vor KI warnt, und KI als unsere „größte existenzielle Bedrohung“ zu bezeichnen. Musk weiß wahrscheinlich, dass diese DARPA-Herausforderung wahrscheinlich nicht Skynet hervorbringen wird, obwohl es ihm wichtig zu sein scheint, dass die Menschen die Wahrscheinlichkeit einer bösartigen synthetischen Intelligenz in Betracht ziehen. Es wird kein Halten mehr geben, sobald wir als Menge ein solches Ungeheuer entfesseln, sagen die Weltuntergangspropheten.

Quelle: Inverse