Musk, Hawking, Wozniak appellent à l'interdiction des armes autonomes et de l'IA militaire pour prévenir une "course aux armements de l'IA militaire"

Plus de 1 000 chercheurs scientifiques et experts technologiques ont signé une lettre ouverte appelant les gouvernements du monde à interdire le développement d’”armes autonomes offensives” pour prévenir une “course aux armements de l’IA militaire”.

La lettre, qui sera présentée à la Conférence internationale conjointe sur l’intelligence artificielle (IJCAI) à Buenos Aires, en Argentine, demain, a été signée par Elon Musk de Tesla, le cofondateur d’Apple Steve Wozniak, le directeur général de Google DeepMind Demis Hassabis, Noam Chomsky et le professeur Stephen Hawking, ainsi que des dizaines d’autres chercheurs en IA et en robotique.

La lettre déclare : “La technologie de l’IA a atteint un point où le déploiement d’[armes autonomes] est - pratiquement sinon légalement - réalisable dans les années, pas dans les décennies, et les enjeux sont élevés : les armes autonomes ont été décrites comme la troisième révolution dans la guerre, après la poudre à canon et les armes nucléaires.”

Les auteurs soutiennent que l’IA peut être utilisée pour rendre le champ de bataille plus sûr pour le personnel militaire, mais que les armes offensives qui fonctionnent de manière autonome abaisseraient le seuil d’engagement au combat et entraîneraient une plus grande perte de vies humaines.

La majeure partie de la lettre concerne les véhicules et les robots stupides convertis en armes autonomes intelligentes. Selon la lettre, les missiles de croisière et les drones pilotés à distance sont acceptables car “les humains prennent toutes les décisions de ciblage”. Cependant, le développement d’armes entièrement autonomes qui peuvent combattre et tuer sans intervention humaine devrait être étouffé dans l’œuf.

Voici l’un des principaux arguments de la lettre :

La question clé pour l’humanité aujourd’hui est de savoir si nous devons commencer une course mondiale aux armements de l’IA ou l’empêcher de commencer. Si une grande puissance militaire avance dans le développement d’armes d’IA, une course aux armements mondiale est pratiquement inévitable, et le point final de cette trajectoire technologique est évident : les armes autonomes deviendront les Kalachnikovs de demain.

Plus loin, la lettre établit un fort parallèle entre la guerre chimique/biologique et les armes autonomes :

Tout comme la plupart des chimistes et des biologistes n’ont aucun intérêt à construire des armes chimiques ou biologiques, la plupart des chercheurs en IA n’ont aucun intérêt à construire des armes d’IA — et ne veulent pas que d’autres ternissent leur domaine en le faisant, créant potentiellement un important retour de flamme du public contre l’IA qui limiterait ses futurs bénéfices sociétaux.

L’Institut pour l’avenir de la vie va présenter la lettre à l’IJCAI. Il n’y a pas de clarté quant à qui la lettre a été adressée, autre que les chercheurs et les universitaires qui assisteront aux conférences. Elle est peut-être destinée à sensibiliser le public à la question, afin que nous ne fermions pas les yeux sur toute recherche d’armes autonomes menée par de grandes puissances militaires.

Toby Walsh, professeur d’IA à l’Université de Nouvelle-Galles du Sud, a déclaré : “Nous devons prendre une décision aujourd’hui qui façonnera notre avenir et déterminera si nous suivons un chemin de bien. Nous soutenons l’appel de plusieurs organisations humanitaires pour une interdiction par l’ONU des armes autonomes offensives, similaire à l’interdiction récente des lasers aveuglants.”

Elon Musk et Stephen Hawking ont tous deux précédemment averti des dangers de l’IA avancée. Alors que Hawking a déclaré que l’IA est “notre plus grande menace existentielle” et que le développement d’une IA complète pourrait “signifier la fin de la race humaine”, Musk a déclaré que l’IA est “potentiellement plus dangereuse que les armes nucléaires”.

Récemment, d’autres, y compris Wozniak, ont changé d’avis sur l’IA, le cofondateur d’Apple disant que les robots seraient bons pour les humains, les rendant comme le “animal de compagnie de la famille et pris en charge tout le temps”.

Discutant de l’avenir de l’armement, y compris des soi-disant “robots tueurs” lors d’une conférence de l’ONU à Genève en avril, le Royaume-Uni s’est opposé à une interdiction du développement d’armes autonomes, malgré les appels de divers groupes de pression, y compris la Campagne pour arrêter les robots tueurs.