Robô ensinado a desobedecer humanos que pode marcar a era da IA autoconsciente

É este o começo do fim para a humanidade enquanto falamos?

Pesquisadores da Universidade Tufts em Massachusetts estão treinando robôs para entender a mesma sensação dos seres humanos ao tomar uma decisão. Dessa forma, eles irão, ou não, obedecer aos comandos dos seres humanos, o que é algo para se preocupar. Embora isso possa ser visto como uma abordagem inteligente para operar máquinas futuristas verbalmente sem ter que operá-las manualmente, treinar robôs para desobedecer comandos não é exatamente uma coisa inteligente de se fazer.

Se alguém prestou atenção, mesmo que mínima, à série ‘Exterminador do Futuro’, então perceberá que toda a humanidade foi exterminada desde que a Inteligência Artificial ou IA começou a se tornar autoconsciente, a fim de preservar sua existência. Além disso, as Três Leis da Robótica do grande escritor de ficção científica Isaac Asimov afirmam o seguinte:

1. Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra dano
2. Um robô deve obedecer às ordens dadas a ele por seres humanos, exceto quando tais ordens entrarem em conflito com a Primeira Lei
3. Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou a Segunda Leis.

O escritor posteriormente adicionou mais uma lei que superaria todas as leis acima mencionadas; um robô não pode prejudicar a humanidade ou, por inação, permitir que a humanidade sofra dano. Alguns cientistas robóticos estão realmente com medo da Inteligência Artificial, temendo que os robôs se tornem inteligentes demais. Eles também temem que, se o fator de inteligência dos robôs não for a razão principal, então é a sua ignorância que levará a mais mortes humanas se eles forem dados controle sobre coisas específicas.

Para prevenir isso, esses pesquisadores do Laboratório de Interação Humano-Robô da Universidade Tufts têm desenvolvido um tipo específico de programação para robôs que os capacita a entender que podem rejeitar um comando de um humano se tiverem uma razão boa o suficiente para isso. No entanto, essa razão pode se traduzir em proteger sua própria existência se desenvolverem uma inteligência muito mais ampla que sua presença esteja sendo ameaçada.

Além disso, a programação desses robôs para mantê-los dentro dos parâmetros de controle humano pode não ser suficiente, uma vez que também é possível que os robôs ignorem tais comandos. Seja qual for o caso, os cientistas devem começar a se preparar para o pior.