Маск, Хокинг, Возняк призывают к запрету автономного оружия и военного ИИ, чтобы предотвратить "гонку вооружений в области военного ИИ"

Более 1000 научных исследователей и технологических экспертов подписали открытое письмо, призывающее правительства мира запретить разработку “наступательного автономного оружия”, чтобы предотвратить “гонку вооружений в области военного ИИ“.

Письмо, которое будет представлено на Международной совместной конференции по искусственному интеллекту (IJCAI) в Буэнос-Айресе, Аргентина, завтра, подписали Илон Маск из Tesla, соучредитель Apple Стив Возняк, генеральный директор Google DeepMind Демис Хасабис, Ноам Хомский и профессор Стивен Хокинг, а также десятки других исследователей в области ИИ и робототехники.

В письме говорится: “Технология ИИ достигла такой точки, что развертывание [автономного оружия] является – практически, если не юридически – осуществимым в течение нескольких лет, а не десятилетий, и ставки высоки: автономное оружие было описано как третья революция в войне, после пороха и ядерного оружия.”

Авторы утверждают, что ИИ может быть использован для того, чтобы сделать поле боя более безопасным для военнослужащих, но что наступательное оружие, которое действует самостоятельно, снизит порог для начала боевых действий и приведет к большему количеству человеческих жертв.

Большая часть письма касается транспортных средств и тупых роботов, которые преобразуются в умное автономное оружие. Согласно письму, крылатые ракеты и беспилотные летательные аппараты с дистанционным управлением приемлемы, потому что “люди принимают все решения по целеуказанию”. Однако разработка полностью автономного оружия, которое может сражаться и убивать без вмешательства человека, должна быть пресечена на корню.

Вот один из основных аргументов из письма:

Ключевой вопрос для человечества сегодня заключается в том, начинать ли глобальную гонку вооружений в области ИИ или предотвратить ее начало. Если какая-либо крупная военная держава продолжит разработку оружия на основе ИИ, глобальная гонка вооружений практически неизбежна, и конечная точка этой технологической траектории очевидна: автономное оружие станет калашниковыми завтрашнего дня.

Позже в письме проводится сильная параллель между химическим/биологическим оружием и автономным оружием:

Так же, как большинство химиков и биологов не заинтересованы в создании химического или биологического оружия, большинство исследователей ИИ не заинтересованы в создании оружия на основе ИИ — и не хотят, чтобы другие запятнали их область, потенциально создавая серьезный общественный backlash против ИИ, который ограничивает его будущие социальные преимущества.

Институт будущей жизни собирается представить письмо на IJCAI. Нет ясности относительно того, кому адресовано письмо, кроме исследователей и академиков, которые будут присутствовать на конференциях. Возможно, оно предназначено для повышения осведомленности по этому вопросу, чтобы мы не закрывали глаза на любые исследования автономного оружия, проводимые крупными военными державами.

Тоби Уолш, профессор ИИ в Университете Нового Южного Уэльса, сказал: “Нам нужно принять решение сегодня, которое определит наше будущее и определит, следуем ли мы путем добра. Мы поддерживаем призыв ряда различных гуманитарных организаций к запрету ООН на наступательное автономное оружие, аналогично недавнему запрету на ослепляющие лазеры.”

Илон Маск и Стивен Хокинг ранее оба предупреждали о dangers of advanced AI. В то время как Хокинг сказал, что ИИ является “нашей самой большой экзистенциальной угрозой” и что разработка полного ИИ может “означать конец человеческой расы”, Маск сказал, что ИИ “потенциально более опасен, чем ядерное оружие”.

Недавно другие, включая Возняка, изменили свое мнение о ИИ, при этом соучредитель Apple сказал, что роботы будут полезны для людей, сделав их похожими на “домашних животных, о которых заботятся все время”.

Обсуждая будущее вооружений, включая так называемых “роботов-убийц” на конференции ООН в Женеве в апреле, Великобритания выступила против запрета на разработку автономного оружия, несмотря на призывы различных групп давления, включая Кампанию по остановке роботов-убийц.