Este robot puede herir intencionadamente a las personas y hacer que sangren

Skynet Redux : Este robot hiere a las personas a propósito y les hace sangrar

Muchos apologistas de la IA y la robótica basan su apoyo a la IA en la Primera Ley de la Robótica de Asimov.

La Primera Ley de la Robótica de Asimov es muy clara: Los robots no pueden dañar a las personas.

Los predictores del apocalipsis, incluido Elon Musk de Tesla, han predicho durante mucho tiempo una dominación al estilo Terminator de Skynet por parte de la IA, pero los apologistas y los partidarios de la robótica siempre han confiado en la primera ley de la robótica de Asimov para defender las innovaciones en IA y robótica.

Aunque definitivamente hay una buena cantidad de grandes robots, a menudo utilizados en la fabricación, que uno tendría que pensar que son peligrosos, los robóticos han caído en gran medida en esa regla.

El gigante de la ciencia ficción Isaac Asimov, quien redactó la “ley” en su cuento corto de 1942 Runaround, fue una de las tres reglas, la segunda de las cuales dice: “Un robot debe obedecer las órdenes que le den los seres humanos, excepto en aquellos casos en que tales órdenes entren en conflicto con la Primera Ley.”

Ciertamente, ocurren accidentes que involucran robots, por ejemplo, cuando alguien se acerca demasiado a un robot industrial.

Sin embargo, ahora un hombre de Berkeley, California, quiere iniciar una conversación saludable entre éticos, filósofos, abogados y otros sobre hacia dónde va la tecnología y qué peligros presentarán los robots a la civilización en el futuro. Alexander Reben, un robótico y artista, ha desarrollado un robot de mesa cuyo único propósito mecánico es herir a las personas. Reben espera que su Frankenstein haga que la gente hable.

Antes de que bloquees tus puertas y ventanas, definamos los términos: El daño causado por el robot de Reben no es más que un pinchazo, aunque uno entregado a alta velocidad, causando la máxima cantidad de dolor que una pequeña aguja puede causar en la yema de un dedo.

Y de manera divertida, planeó la máquina para que la lesión se cause de manera no sistemática. A veces, el robot golpea. A veces, no. Incluso Reben, cuando revela su yema al peligro, no tiene idea de si terminará derramando sangre o no.

En una enorme sala en el último piso de la hermosa mansión victoriana donde Reben vive y trabaja como miembro de Stochastic Labs, un incubador de eventos de arte, tecnología y ciencia en Berkeley, afirma: “Nadie ha hecho realmente un robot que esté construido para herir e lastimar intencionadamente a alguien. Quería hacer un robot que hiciera esto que realmente existe… Eso era importante, sacarlo del ámbito del experimento mental a la realidad, porque una vez que algo existe en el mundo, tienes que confrontarlo. Se vuelve más urgente. No puedes simplemente pontificar sobre ello.”

Kate Darling, investigadora en el MIT Media Lab que estudia el “impacto social a corto plazo de la tecnología robótica”, cuando se le preguntó su opinión sobre el experimento, dijo que le gustaba, principalmente porque incluye robots. “No quiero meter mi mano en ello, sin embargo,” añade.

Reben es posiblemente más conocido como el creador del BlabDroid, un pequeño robot de apariencia inofensiva que de alguna manera motiva a las personas que se encuentra a contarle historias sobre sus vidas. A lo largo de los años, su trabajo se ha centrado en las relaciones que las personas tienen con la tecnología y cómo esa tecnología puede ayudarnos a comprender nuestra humanidad.

Ha sido muy consciente de que las personas tienen cada vez más miedo a los robots, ya sea porque representan algún tipo de peligro físico teórico para nosotros o porque muchos los ven como si estuvieran avanzando hacia sustituirnos. Los refranes comunes hoy en día son “Los robots van a apoderarse” o “Los robots van a quitar nuestros trabajos.”

Reben quiere obligar a las personas a oponerse al tema de cómo lidiar con los peligros de los robots mucho antes de que realmente ocurran. Normalmente, tal trabajo podría recaer en académicos, pero Reben cree que ninguna institución de investigación podría salir adelante desarrollando un robot que realmente lastime a las personas. Asimismo, ninguna empresa va a hacer tal robot porque, cree, “no quieres ser conocido como la primera empresa que hizo un robot para causar intencionadamente dolor.”

“Con la tecnología cada vez más autónoma, podría tener más sentido ver a los robots como análogos a los animales, cuyo comportamiento tampoco podemos anticipar siempre.”

Dice que es mejor dejar tales cosas al mundo del arte, donde “las personas tienen mentes abiertas.”

Es posible que no haya mucha indignación dado que su robot no está arrancando los brazos de las personas, ni aplastando a nadie en pedacitos, al menos no del tipo que resultaría si su máquina estuviera causando un daño severo.

Reben espera que personas de campos tan dispares como el derecho, la filosofía, la ingeniería y la ética se fijen en lo que ha construido. “Estas personas interdisciplinarias necesitan unirse,” dice Reben, “para resolver algunos de estos problemas que ninguno de ellos puede comprender o resolver completamente.”

Visualiza que los abogados argumentarán sobre los problemas de responsabilidad que rodean a un robot que puede dañar a las personas, mientras que los éticos pensarán si está bien siquiera pensar en tal experimento. Los filósofos se preguntarán por qué existe tal robot.

Sin embargo, hay un propósito para creer que las leyes de Asimov nunca nos habrían protegido de todos modos.

En 2014, Ben Goertzel, teórico de IA y científico jefe en la firma de predicción financiera Aidyia Holdings, dijo a io9 que “El objetivo de las Tres Leyes era fallar de maneras interesantes; eso es lo que hacía que la mayoría de las historias que las involucraban fueran interesantes. Así que las Tres Leyes eran instructivas en términos de enseñarnos cómo cualquier intento de legislar la ética en términos de reglas específicas está destinado a desmoronarse y tener varias lagunas.”

Experimento o no, Darling sostiene que Reben tiene la responsabilidad ética por cualquier daño instigado por su robot, ya que él es quien lo diseñó.

“Podemos distanciarnos gradualmente de la responsabilidad ética por el daño al tratar con robots autónomos,” dice Darling. “Por supuesto, el sistema legal aún asigna responsabilidad… pero cuanto más nos alejamos de poder anticipar el comportamiento de un robot, menos ‘intencional’ es el daño.”

A medida que la tecnología mejora, es posible que tengamos que reconsiderar la forma en que miramos a las máquinas, cree.

“Desde el punto de vista de la responsabilidad,” dice Darling, “los robots serán más que solo herramientas que manejamos como una extensión de nosotros mismos. Con la tecnología cada vez más autónoma, podría tener más sentido ver a los robots como análogos a los animales, cuyo comportamiento tampoco podemos anticipar siempre.”

Sin embargo, para Reben, solo espera que a medida que la tecnología autónoma avance, las personas dejen de enterrar la cabeza en la arena.

“Quiero que la gente comience a confrontar la fisicalidad de esto,” dice Reben. “Aumentará un poco más la conciencia fuera del ámbito filosófico.”

“Siempre habrá situaciones en las que lo imprevisto sucederá, y cómo lidiar con eso será algo importante en lo que pensar.”

Fast Company.