Robot enseñado a desobedecer a los humanos que podría marcar la era de la IA autoconsciente

¿Es este el principio del fin para la humanidad mientras hablamos?

Investigadores de la Universidad de Tufts en Massachusetts están entrenando a robots para entender la misma sensación que los seres humanos al tomar una decisión. De esta manera, obedecerán o no las órdenes de los seres humanos, lo cual es algo de lo que preocuparse. Si bien esto podría considerarse un enfoque inteligente para operar máquinas futuristas verbalmente sin tener que operarlas manualmente, entrenar a los robots para desobedecer órdenes no es exactamente algo inteligente de hacer.

Si alguien ha prestado siquiera un poco de atención a la serie ‘Terminator’, entonces se dará cuenta de que toda la humanidad fue aniquilada desde que la Inteligencia Artificial o IA comenzó a volverse autoconsciente, con el fin de preservar su existencia. Además, el gran escritor de ciencia ficción Isaac Asimov establece en sus Tres Leyes de la Robótica lo siguiente:

1. Un robot no puede dañar a un ser humano o, mediante inacción, permitir que un ser humano sufra daño
2. Un robot debe obedecer las órdenes que le den los seres humanos, excepto en aquellos casos en que tales órdenes entren en conflicto con la Primera Ley
3. Un robot debe proteger su propia existencia siempre que tal protección no entre en conflicto con la Primera o Segunda Leyes.

El escritor luego añadió una ley más que superaría todas las leyes anteriores; un robot no puede dañar a la humanidad, o, mediante inacción, permitir que la humanidad sufra daño. Algunos científicos robóticos tienen miedo de la Inteligencia Artificial, temiendo que los robots se vuelvan demasiado inteligentes. También temen que si el factor de inteligencia de los robots no va a ser la razón principal, entonces es su ignorancia la que llevará a más muertes humanas si se les da control sobre cosas específicas.

Para prevenir esto, estos investigadores del Laboratorio de Interacción Humano-Robot de la Universidad de Tufts han estado desarrollando un tipo específico de programación para robots que les permite entender que pueden rechazar una orden de un humano si tienen una razón suficientemente válida para hacerlo. Sin embargo, esta razón podría traducirse en proteger su propia existencia si desarrollan una inteligencia mucho más amplia que amenace su presencia.

Además, la programación de estos robots para mantenerlos dentro de los parámetros del control humano podría no ser suficiente, ya que también es posible que los robots anulen tales órdenes. Cualquiera que sea el caso, los científicos deberían comenzar a prepararse para lo peor.