Musk, Hawking, Wozniak piden la prohibición de armas autónomas y IA militar para prevenir una “carrera armamentista de IA militar”

Más de 1,000 investigadores científicos y expertos tecnológicos han firmado una carta abierta pidiendo a los gobiernos del mundo que prohíban el desarrollo de “armas autónomas ofensivas” para prevenir una “carrera armamentista de IA militar”.

La carta, que será presentada en la Conferencia Internacional Conjunta sobre Inteligencia Artificial (IJCAI) en Buenos Aires, Argentina, mañana fue firmada por Elon Musk de Tesla, Steve Wozniak, cofundador de Apple, el director ejecutivo de Google DeepMind, Demis Hassabis, Noam Chomsky y el profesor Stephen Hawking, junto con docenas de otros investigadores en IA y robótica.

La carta establece: “La tecnología de IA ha alcanzado un punto en el que el despliegue de [armas autónomas] es – prácticamente si no legalmente – factible dentro de unos años, no décadas, y las apuestas son altas: las armas autónomas han sido descritas como la tercera revolución en la guerra, después de la pólvora y las armas nucleares.”

Los autores argumentan que la IA puede ser utilizada para hacer del campo de batalla un lugar más seguro para el personal militar, pero que las armas ofensivas que operan por sí solas reducirían el umbral para ir a la batalla y resultarían en una mayor pérdida de vidas humanas.

La mayor parte de la carta se preocupa por vehículos y robots tontos que se convierten en armas autónomas inteligentes. Según la carta, los misiles de crucero y los drones pilotados a distancia están bien porque “los humanos toman todas las decisiones de objetivo”. Sin embargo, el desarrollo de armas completamente autónomas que pueden luchar y matar sin interferencia humana debería ser detenido en su inicio.

Aquí hay uno de los principales argumentos de la carta:

La pregunta clave para la humanidad hoy es si comenzar una carrera armamentista global de IA o prevenir que comience. Si alguna gran potencia militar avanza con el desarrollo de armas de IA, una carrera armamentista global es prácticamente inevitable, y el punto final de esta trayectoria tecnológica es obvio: las armas autónomas se convertirán en los Kalashnikovs del mañana.

Más adelante, la carta traza un fuerte paralelo entre la guerra química/biológica y las armas autónomas:

Así como la mayoría de los químicos y biólogos no tienen interés en construir armas químicas o biológicas, la mayoría de los investigadores en IA no tienen interés en construir armas de IA — y no quieren que otros manchen su campo al hacerlo, potencialmente creando una gran reacción pública contra la IA que limite sus futuros beneficios sociales.

El Instituto del Futuro de la Vida va a presentar la carta en IJCAI. No hay claridad sobre a quién ha sido dirigida la carta, aparte de los investigadores y académicos que asistirán a las conferencias. Quizás está destinada a aumentar la conciencia sobre el tema, para que no cerremos los ojos a ninguna investigación sobre armas autónomas que estén llevando a cabo las grandes potencias militares.

Toby Walsh, profesor de IA en la Universidad de Nueva Gales del Sur, dijo: “Necesitamos tomar una decisión hoy que dará forma a nuestro futuro y determinará si seguimos un camino de bien. Apoyamos el llamado de varias organizaciones humanitarias para una prohibición de la ONU sobre armas autónomas ofensivas, similar a la reciente prohibición de láseres cegadores.”

Elon Musk y Stephen Hawking han advertido anteriormente sobre los peligros de la IA avanzada. Mientras que Hawking dijo que la IA es “nuestra mayor amenaza existencial” y que el desarrollo de una IA completa podría “significar el fin de la raza humana”, Musk dijo que la IA es “potencialmente más peligrosa que las armas nucleares.”

Recientemente, otros, incluido Wozniak, cambiaron de opinión sobre la IA, con el cofundador de Apple diciendo que los robots serían buenos para los humanos, haciéndolos como la “mascota de la familia y cuidados todo el tiempo”.

Discutiendo el futuro de la armamentística, incluidos los llamados “robots asesinos” en una conferencia de la ONU en Ginebra en abril, el Reino Unido se opuso a una prohibición sobre el desarrollo de armas autónomas, a pesar de los llamados de varios grupos de presión, incluida la Campaña para Detener a los Robots Asesinos.