Робот, обученный не подчиняться людям, что может ознаменовать эпоху самосознательного ИИ

Является ли это началом конца для человечества, пока мы говорим?

Исследователи из Университета Тафтса в Массачусетсе обучают роботов понимать те же ощущения, что и у людей при принятии решения. Таким образом, они будут или не будут подчиняться командам людей, что вызывает беспокойство. Хотя это можно рассматривать как умный подход для управления футуристическими машинами вербально, не прибегая к ручному управлению, обучение роботов не подчиняться командам — это не совсем разумное решение.

Если кто-то обратил хоть немного внимания на серию «Терминатор», то он поймет, что все человечество было уничтожено, когда Искусственный Интеллект или ИИ начал осознавать себя, чтобы сохранить свое существование. Кроме того, великий писатель научной фантастики Айзек Азимов в своих Трех законах робототехники утверждает следующее:

1. Робот не может причинить вред человеку или, бездействуя, позволить человеку подвергнуться вреду
2. Робот должен подчиняться приказам, данным ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону
3. Робот должен защищать свое собственное существование, пока такая защита не противоречит Первому или Второму законам.

Позже писатель добавил еще один закон, который превышает все вышеперечисленные законы; робот не может причинить вред человечеству или, бездействуя, позволить человечеству подвергнуться вреду. Некоторые ученые-робототехники на самом деле боятся Искусственного Интеллекта, опасаясь, что роботы станут слишком умными. Они также опасаются, что если интеллект роботов не станет основной причиной, то их невежество приведет к большему количеству человеческих жертв, если им будет предоставлен контроль над определенными вещами.

Чтобы предотвратить это, исследователи в Лаборатории взаимодействия человека и робота Университета Тафтса разрабатывают специфический тип программирования для роботов, который позволяет им понимать, что они могут отклонить команду от человека, если у них есть достаточно веская причина для этого. Однако эта причина может заключаться в защите их собственного существования, если они разовьют гораздо более широкий интеллект, угрожающий их присутствию.

Более того, программирование этих роботов для того, чтобы удерживать их в рамках человеческого контроля, может быть недостаточным, так как также возможно, что роботы могут игнорировать такие команды. Как бы то ни было, ученым следует начать готовиться к худшему.