Défi de piratage de la DARPA pour tester l'IA en tant que défenseurs de la cybersécurité

Le défi de piratage de l’IA de la DARPA mènera à Skynet, dit Elon Musk

Récemment, l’Agence des projets de recherche avancée de défense (DARPA) a annoncé un Cyber Grand Challenge, qui aura sept équipes, qui concourront dans un concours de piratage avec un prix total de 3,75 millions de dollars qui se termine à Las Vegas en août prochain. Les récompenses se présentent sous la forme d’un prix de 2 millions de dollars pour la première place, 1 million de dollars pour la deuxième place et 750 000 dollars pour la troisième place. L’objectif du tournoi est de développer Skynet.

Skynet est un système d’intelligence artificielle générale, conscient et gestalt, qui figure au centre de la franchise Terminator et sert d’antagoniste principal de la franchise.

Musk a tweeté un avertissement à peine voilé jeudi matin. Ce n’est pas la première fois qu’il se laisse aller à être provoqué par un superordinateur antagoniste.

L’objectif réel est de construire une intelligence artificielle (IA) automatisée qui peut scanner de manière autonome les serveurs réseau des rivaux à la recherche d’exploits et protéger ses propres serveurs en trouvant et en corrigeant activement les défauts logiciels. En gros, ils souhaitent créer un hacker extraordinaire, non supervisé et sans contrainte, qui détectera les vulnérabilités complémentaires et les corrigera lui-même. Actuellement, ce travail ingrat de cybersécurité est effectué, bien sûr, par des personnes. Les hackers experts sont doués pour anticiper et réguler les vulnérabilités, mais l’offre est inférieure à la demande. Le processus de régulation d’un défaut, écrit la DARPA, « peut prendre plus d’un an depuis la première détection jusqu’au déploiement d’une solution, moment auquel des systèmes critiques peuvent déjà avoir été compromis. »

Cependant, ironiquement, la demande de solutions rapides aux problèmes de sécurité omniprésents ne fera que continuer à augmenter, alors que de plus en plus d’appareils communiquent des informations sur Internet chaque année. Selon la DARPA, une IA de cybersécurité complémentaire serait « la première génération de machines capables de découvrir, prouver et corriger des défauts logiciels en temps réel, sans aucune assistance » qui pourrait rendre notre monde beaucoup plus sûr.

Mais, Elon Musk pourrait suggérer le contraire.

Tout est amusant et jeux jusqu’à ce que … https://t.co/cRAn0S8ooX — Elon Musk (@elonmusk) 14 juillet 2016

Bien que le tweet de Musk puisse sembler être une blague, il a déjà fait des choses comme signer cette lettre ouverte avertissant sur l’IA et appeler l’IA notre « plus grande menace existentielle ». Musk sait probablement que ce défi de la DARPA ne va probablement pas engendrer Skynet, bien qu’il semble crucial pour lui que les gens considèrent la probabilité d’une intelligence synthétique maligne. Il n’y aura pas de retour en arrière, une fois que nous, en tant que foule, libérerons une telle bête, disent les prophètes de malheur.