¿Deberían los robots tener permiso para matar humanos?

¡¿Deberían los robots asesinos tener permiso para matar humanos? pregunta la ONU!

La tecnología ha dado un gran salto y las armas militares se confían para actuar de manera autónoma, sin embargo, ¿estamos listos para entregar la decisión de matar vidas humanas a estas ‘Robots Asesinos’? ¡sigue siendo una gran pregunta!

El 13 de abril se celebró una reunión de expertos en robótica en el CCW (Convención sobre Armas Convencionales) en Ginebra, para discutir el futuro de los ‘Sistemas de Armas Autónomas Letales’ (LAWS) o los ‘Robots Asesinos’.

Una reunión similar se llevó a cabo en mayo de 2014 cuando el entonces Director General en funciones de la Oficina de las Naciones Unidas en Ginebra, Michael Møller, dijo: “Con demasiada frecuencia, el derecho internacional solo responde a atrocidades y sufrimientos una vez que han ocurrido.” Así que la reunión celebrada a principios de esta semana fue la segunda de su tipo cuando los expertos del CCW se reunieron para discutir las diversas tecnologías letales que están surgiendo y también para tener un control sobre estas tecnologías antes de que sean utilizadas por las naciones.

La palabra ciberseguridad trae ante nuestros ojos las imágenes de redes virtuales y computadoras y también la forma en que el software puede ser incorporado en la destrucción. Sin embargo, el concepto de ciberseguridad ha sido generalmente restringido solo a computadoras. Hoy en día, el software ha llegado incluso a las armas militares y el software está siendo desplegado por varias naciones para construir la maquinaria de guerra principal. Con la tecnología dando un gran salto, el día no está lejos cuando las armas serán totalmente autónomas, aquí la única pregunta que aún queda por responder es si estamos listos para entregar la decisión de matar humanos completamente en manos de las armas asesinas autónomas. Las armas autónomas que ya se están utilizando hoy requieren que haya una persona que dé la orden de matar humanos, por lo tanto, la decisión aquí aún recae en las manos del operador que emite la orden, sin embargo, en las armas totalmente autónomas, sigue siendo una pregunta a quién deberíamos culpar en caso de que la IA decida matar humanos sin razón alguna.

En su presentación inicial, Jody Williams, laureada con el Premio Nobel de la Paz y cofundadora de la “Campaña para detener a los robots asesinos”, mencionó claramente que “todavía hay tiempo para decir NO”. Williams agregó: “Esta es una decisión que nosotros como seres humanos podemos tomar. Es una decisión que debemos tomar. No debemos ceder el poder de la vida y la muerte sobre otros seres humanos a máquinas autónomas de nuestro propio diseño. No es demasiado tarde.”

En 2013, ciertas preguntas que surgieron del concepto de “Robots Asesinos” fueron claramente planteadas por el Secretario General de la ONU, Ban Ki-moon, que se mencionan en las líneas a continuación: “¿Es moralmente aceptable delegar decisiones sobre el uso de la fuerza letal a tales sistemas? Si su uso resulta en un crimen de guerra o una violación grave de los derechos humanos, ¿quién sería legalmente responsable? Si la responsabilidad no puede ser determinada como lo exige el derecho internacional, ¿es legal o ético desplegar tales sistemas?”

Básicamente, la “Campaña para Detener a los Robots Asesinos” en realidad pide una “Prohibición Preventiva” sobre los LAWS, sin embargo, parece que la ONU solo está discutiendo las armas letales y no se tomará ninguna acción adicional por ahora. De hecho, la prohibición preventiva solo puede hacerse realidad después de un consenso mutuo entre todas las naciones miembros que apoyen unilateralmente la prohibición de los robots asesinos. Y si la ONU tiene éxito en obtener un apoyo mayoritario para prohibir los robots asesinos, significaría que los LAWS serán prohibidos incluso antes de que sean una realidad. Sin embargo, esta no será la primera vez que la ONU prohíba algo antes de que sea una realidad, una decisión similar fue tomada por la ONU en 1995 cuando se prohibió el “Protocolo sobre Armas Láser Cegadoras” porque se suponía que era excesivamente lesivo o tenía efectos indiscriminados.

En los últimos meses, muchas personas han estado discutiendo la amenaza potencial de la Inteligencia Artificial para los seres humanos. La Universidad de Stanford ha dado un paso adelante y está trabajando en un “estudio de 100 años sobre los efectos de la Inteligencia Artificial AI100”, básicamente este estudio constituye los efectos reales de la IA en cada aspecto de la vida humana.

Por otro lado, muchos expertos del campo de la informática y la IA han firmado una ‘Carta Abierta’ donde se están añadiendo los detalles de las investigaciones que están en proceso a la lista para verificar los beneficios de la IA para la raza humana.

Con todas las discusiones que se están llevando a cabo sobre el ‘Robot Asesino’, Francia y el Reino Unido parecen estar bastante claros en que no perseguirán tales armas autónomas. Sin embargo, Israel y EE. UU. aún están dejando las puertas abiertas para la futura adquisición de estas armas. De hecho, ninguna de las naciones parece estar lista por ahora para la prohibición preventiva de los LAWS.

¿Qué piensan nuestros lectores sobre esta decisión? ¿Debería la IA ser introducida en las armas militares creando Robots Asesinos virtuales que algún día podrían intentar pensar más inteligentes que los humanos y comenzar a matar humanos para proteger a sus propios clones “Robots Asesinos de IA”? … piensen en ello!!