La ONU insta a prohibir los drones totalmente autónomos y los robots asesinos antes de que puedan ser desarrollados

Un informe de Human Rights Watch y la Facultad de Derecho de Harvard ha instado a la ONU a crear un tratado internacional que pueda prohibir los llamados “robots asesinos” antes de que puedan ser desarrollados.

Los voluntarios de Human Rights Watch y la Facultad de Derecho de Harvard han trabajado juntos para redactar un informe conocido como “Mind the Gap”, que detalla cómo las armas totalmente autónomas carecen de regulación y podrían ser la causa de muertes humanas sin ninguna responsabilidad. Con base en este informe, el grupo ahora está presionando a la ONU para que prohíba el desarrollo de cualquier arma totalmente autónoma que podría probablemente infligir daño a los humanos en ausencia de operadores. Aunque las armas totalmente autónomas aún se encuentran en etapas de desarrollo, Human Rights Watch y la Facultad de Derecho de Harvard han recomendado a la ONU que establezca leyes internacionales estrictas que no solo prohíban el desarrollo, producción y uso de las armas totalmente autónomas, sino que también obliguen legalmente a otras naciones a no crear tales armas.

La inteligencia artificial está teniendo su impacto y los fabricantes están aprovechando al máximo las tecnologías para crear drones y vehículos autónomos, que incluyen el coche totalmente autónomo de Google, Parrot, una empresa que se dedica a crear drones de ocio para sus consumidores, y también el proyecto Prime Air de Amazon, que entregaría los paquetes de los clientes mediante un vehículo aéreo no armado; sin embargo, todos estos aún se encuentran en etapas de desarrollo. Aunque los reguladores están trabajando en formas de obtener las licencias aprobadas para estos vehículos comerciales autónomos, los voluntarios de Human Rights Watch y la Facultad de Derecho de Harvard están instando a las autoridades a establecer leyes que deben ser implementadas antes de la llegada de las licencias otorgadas para fabricar tales “robots asesinos” autónomos. Recientemente, la FAA (Administración Federal de Aviación) impuso restricciones al uso comercial de los drones autónomos.

The Guardian informó recientemente sobre “Mind the Gap”, que es un informe conjunto presentado por Human Rights Watch y la Facultad de Derecho de Harvard. El informe argumenta que la ley actual permite a los fabricantes, programadores y personal militar eludir fácilmente la responsabilidad en caso de que ocurran muertes en el campo debido a las armas autónomas. El informe también llama la atención de las autoridades de la ONU sobre que, dado que no hay un marco legal adecuado para estos drones autónomos y las armas durante su fabricación y eliminación, es difícil responsabilizar a alguien en caso de que ocurra algún error. El informe también especifica que, dado que no hay un humano asignado a la artillería totalmente autónoma, hay posibilidades de que estas armas puedan ser erróneamente dirigidas a civiles en lugar de a militares. El informe también declara: “Las armas totalmente autónomas aún no existen, pero la tecnología avanza en esa dirección, y los precursores ya están en uso o desarrollo. Por ejemplo, muchos países utilizan sistemas de defensa de armas, como el Domo de Hierro israelí y el Phalanx y C-RAM de EE. UU., que están programados para responder automáticamente a amenazas de municiones entrantes. Además, existen prototipos de aviones que podrían volar autónomamente en misiones intercontinentales (UK Taranis) o despegar y aterrizar en un portaaviones (US X-47B).” Además, el informe dice: “Los mecanismos existentes para la responsabilidad legal son inadecuados y no están bien adaptados para abordar los daños ilegales que las armas totalmente autónomas podrían causar. Estas armas tienen el potencial de cometer actos criminales —actos ilegales que constituirían un crimen si se hicieran con intención— por los cuales nadie podría ser considerado responsable. Un arma totalmente autónoma en sí misma no podría ser considerada responsable por actos criminales que pudiera cometer porque carecería de intencionalidad.”

El informe añade que durante los escenarios de guerra actuales, la artillería automatizada y los drones utilizados por el personal del ejército tienen algún operador humano que toma la decisión de apretar el gatillo y, por lo tanto, será considerado responsable por cualquier uso indebido de la artillería automatizada. Sin embargo, en el caso de un arma totalmente automatizada, será difícil responsabilizar a alguien en caso de que haya un uso indebido del arma y del drone. Además, si ocurre algún error debido a algún fallo, será una gran pregunta a quién se le considerará responsable. Dar el control total a una máquina significaría la falta de control humano significativo en la selección y el compromiso de objetivos.

El informe también ha dado algunas sugerencias alternativas donde dice que algún comandante o programador debería ser considerado responsable por cualquier error o negligencia. Esto impondría una responsabilidad civil sobre ese personal o programador en particular y, por lo tanto, sería útil para proporcionar compensación, algún juicio y un sentido de justicia a las víctimas perjudicadas. El informe añade: “La falta de control humano significativo coloca a las armas totalmente autónomas en una posición ambigua y preocupante. Por un lado, mientras que las armas tradicionales son herramientas en manos de seres humanos, las armas totalmente autónomas, una vez desplegadas, tomarían sus propias determinaciones sobre el uso de la fuerza letal. Por lo tanto, desafiarían las nociones de larga data sobre el papel de las armas en los conflictos armados, y para algunos análisis legales, serían más parecidas a un soldado humano que a un arma inanimada. Por otro lado, las armas totalmente autónomas estarían muy lejos de ser humanas.”

La reunión de funcionarios internacionales de la ONU se llevará a cabo a finales de este mes en Ginebra para discutir la regulación de la tecnología militar emergente. Parece que el informe ha sido publicado con anticipación para que los funcionarios lo revisen y presenten sus sugerencias al respecto.