Este Robô Pode Intencionalmente Ferir Pessoas E Fazer Elas Sangrarem

Skynet Redux : Este robô fere pessoas de propósito e faz elas sangrarem

Muitos defensores da IA e da robótica baseiam seu apoio à IA na Primeira Lei da Robótica de Asimov.

A Primeira Lei da Robótica de Asimov é muito clara: Robôs não podem causar dano às pessoas.

Previsores do apocalipse, incluindo Elon Musk da Tesla, há muito preveem uma dominação ao estilo Terminator do mundo pela IA, mas apologistas e apoiadores da robótica sempre se basearam na primeira lei da robótica de Asimov para defender as inovações em IA e robótica.

Embora definitivamente haja um número considerável de grandes robôs, frequentemente usados na fabricação, que se poderia pensar serem perigosos, os robóticos em grande parte falharam em seguir essa regra.

O gigante da ficção científica Isaac Asimov, que escreveu a “lei” em seu conto de 1942 Runaround, foi uma das três regras, a segunda das quais diz: “Um robô deve obedecer às ordens dadas a ele por seres humanos, exceto onde tais ordens conflitem com a Primeira Lei.”

Certamente, acidentes envolvendo robôs ocorrem, por exemplo, quando alguém se aproxima demais de um robô industrial.

No entanto, agora um homem de Berkeley, Califórnia, quer iniciar uma conversa saudável entre éticos, filósofos, advogados e outros sobre para onde a tecnologia está indo e quais perigos os robôs apresentarão à civilização no futuro. Alexander Reben, um robótico e artista, desenvolveu um robô de mesa cujo único propósito mecânico é ferir pessoas. Reben espera que seu Frankenstein faça as pessoas falarem.

Antes de você trancar suas portas e janelas, vamos definir os termos: O dano causado pelo robô de Reben não é mais do que uma picada, embora uma entregue em alta velocidade, causando a máxima quantidade de dor que uma pequena agulha pode causar na ponta de um dedo.

E de forma divertida, ele planejou a máquina para que a lesão seja causada de forma não sistemática. Às vezes, o robô ataca. Às vezes, não. Mesmo Reben, quando revela sua ponta do dedo ao perigo, não tem ideia se acabará derramando sangue ou não.

Em uma enorme sala no último andar da bela mansão vitoriana onde Reben vive e trabalha como membro do Stochastic Labs, um incubador de eventos de arte, tecnologia e ciência de Berkeley, afirma: “Ninguém realmente fez um robô que foi construído para intencionalmente ferir e machucar alguém. Eu queria fazer um robô que faz isso que realmente existe… Isso era importante para mim, tirar isso do reino da experiência de pensamento para a realidade, porque uma vez que algo existe no mundo, você tem que confrontá-lo. Torna-se mais urgente. Você não pode apenas filosofar sobre isso.”

Kate Darling, uma pesquisadora do MIT Media Lab que estuda o “impacto social de curto prazo da tecnologia robótica”, quando questionada sobre sua opinião sobre o experimento, disse que gostou, principalmente porque inclui robôs. “Eu não quero colocar minha mão nisso, porém,” ela acrescenta.

Reben é possivelmente mais conhecido como o criador do BlabDroid, um pequeno robô com aparência inofensiva que de alguma forma motiva as pessoas que encontra a contar histórias sobre suas vidas. Ao longo dos anos, seu trabalho tem se concentrado nas relações que as pessoas têm com a tecnologia e como essa tecnologia pode nos ajudar a compreender nossa humanidade.

Ele tem estado muito ciente de que as pessoas estão cada vez mais com medo dos robôs—ou porque eles representam algum tipo de perigo físico teórico para nós ou porque são vistos por muitos como caminhando em direção à substituição de nós. Os refrões comuns hoje em dia são “Os robôs vão dominar” ou “Os robôs vão tirar nossos empregos.”

Reben quer compelir as pessoas a se oporem à questão de como lidar com os perigos dos robôs muito antes de eles realmente ocorrerem. Normalmente, tal trabalho poderia caber a acadêmicos, mas Reben acredita que nenhuma instituição de pesquisa poderia se dar ao luxo de desenvolver um robô que realmente machuca pessoas. Da mesma forma, nenhuma empresa vai fazer tal robô porque, ele acredita, “você não quer ser conhecido como a primeira empresa que fez um robô para causar dor intencionalmente.”

“Com a tecnologia cada vez mais autônoma, pode fazer mais sentido ver os robôs como análogos a animais, cujo comportamento também não podemos sempre antecipar.”

Ele diz que é melhor deixar tais coisas para o mundo da arte, onde “as pessoas têm mentes abertas.”

É possível que não haja muita indignação, dado que seu robô não está arrancando os braços das pessoas ou esmagando ninguém em pedaços pequenos, pelo menos não do tipo que resultaria se sua máquina estivesse causando danos severos.

Reben espera que pessoas de campos tão díspares quanto direito, filosofia, engenharia e ética notem o que ele construiu. “Essas pessoas interdisciplinares precisam se unir,” diz Reben, “para resolver alguns desses problemas que nenhum deles pode entender completamente ou resolver.”

Ele visualiza que advogados argumentarão sobre os problemas de responsabilidade em torno de um robô que pode ferir pessoas, enquanto éticos pensarão se é aceitável pensar sobre tal experimento. Filósofos ponderarão por que tal robô existe.

No entanto, há um propósito em acreditar que as leis de Asimov nunca nos teriam protegido de qualquer maneira.

Em 2014, Ben Goertzel, teórico da IA e cientista-chefe da empresa de previsão financeira Aidyia Holdings, disse ao io9 que “O ponto das Três Leis era falhar de maneiras interessantes; isso é o que tornava a maioria das histórias envolvendo-as interessantes. Portanto, as Três Leis foram instrutivas em termos de nos ensinar como qualquer tentativa de legislar ética em termos de regras específicas está fadada a desmoronar e ter várias brechas.”

Experimento ou não, Darling argumenta que Reben carrega a responsabilidade ética por qualquer dano instigado por seu robô, uma vez que ele é quem o projetou.

“Podemos gradualmente nos distanciar da responsabilidade ética por danos ao lidar com robôs autônomos,” diz Darling. “Claro, o sistema legal ainda atribui responsabilidade… mas quanto mais nos afastamos de sermos capazes de antecipar o comportamento de um robô, menos ‘intencional’ o dano.”

À medida que a tecnologia avança, podemos ter que reconsiderar a maneira como olhamos para as máquinas, ela acredita.

“Do ponto de vista da responsabilidade,” diz Darling, “os robôs serão mais do que apenas ferramentas que usamos como uma extensão de nós mesmos. Com a tecnologia cada vez mais autônoma, pode fazer mais sentido ver os robôs como análogos a animais, cujo comportamento também não podemos sempre antecipar.”

No entanto, para Reben, ele apenas espera que, à medida que a tecnologia autônoma avança, as pessoas parem de enterrar a cabeça na areia.

“Eu quero que as pessoas comecem a confrontar a fisicalidade disso,” diz Reben. “Isso vai aumentar um pouco mais a conscientização fora do reino filosófico.”

“Sempre haverá situações em que o imprevisto vai acontecer, e como lidar com isso será uma coisa importante a se pensar.”

Fast Company.