マスク、ホーキング、ウォズニアックが「軍事AI軍拡競争」を防ぐために自律兵器と軍事AIの禁止を呼びかけ

1,000人以上の科学研究者と技術専門家が、「攻撃的自律兵器」の開発を禁止するよう世界の政府に呼びかける公開書簡に署名しました。これは「軍事AI軍拡競争」を防ぐためです。

この書簡は、明日アルゼンチンのブエノスアイレスで開催される国際人工知能共同会議（IJCAI）で発表される予定で、テスラのイーロン・マスク、アップル共同創業者のスティーブ・ウォズニアック、グーグル・ディープマインドの最高経営責任者デミス・ハサビス、ノーム・チョムスキー、スティーブン・ホーキング教授を含む数十人のAIおよびロボティクス研究者が署名しています。

書簡には次のように記されています。「AI技術は、自律兵器の配備が法的でなくとも、数十年ではなく数年内に実現可能な段階に達しています。そして、そのリスクは高いです：自律兵器は火薬と核兵器に次ぐ戦争の第三の革命と表現されています。」

著者たちは、AIが軍人にとって戦場をより安全な場所にするために使用できると主張していますが、自律的に作動する攻撃兵器は戦闘に入る閾値を下げ、人命の損失を増加させると警告しています。

書簡の大部分は、車両や単純なロボットがスマートな自律兵器に変換されることに関心を持っています。書簡によれば、巡航ミサイルや遠隔操縦ドローンは「人間がすべての標的決定を行うため」問題ないとされています。しかし、人間の干渉なしに戦い、殺すことができる完全自律兵器の開発は、早期に抑制されるべきです。

以下は書簡からの主な主張の一つです：

「今日の人類にとっての重要な質問は、グローバルなAI軍拡競争を始めるべきか、それともそれを防ぐべきかです。もし主要な軍事大国がAI兵器の開発を進めれば、グローバルな軍拡競争はほぼ避けられず、この技術的な軌道の終着点は明らかです：自律兵器は明日のカラシニコフになるでしょう。」

その後、書簡は化学/生物兵器と自律兵器の間に強い類似性を引き合いに出します：

「ほとんどの化学者や生物学者が化学兵器や生物兵器の構築に興味を持たないように、ほとんどのAI研究者もAI兵器の構築に興味を持たず、他者が自分たちの分野を汚すことを望んでいません。これは、AIに対する大きな公的反発を引き起こし、その将来の社会的利益を制限する可能性があります。」

ライフ・インスティテュートは、IJCAIでこの書簡を発表する予定です。書簡が誰に宛てられているのかは明確ではなく、会議に出席する研究者や学者を除いては不明です。おそらく、主要な軍事大国による自律兵器研究を見逃さないように問題への意識を高めることが目的です。

ニューサウスウェールズ大学のAI教授トビー・ウォルシュは次のように述べています。「私たちは、未来を形作り、善の道を歩むかどうかを決定する必要があります。私たちは、最近の盲目レーザー禁止に類似した攻撃的自律兵器に対する国連の禁止を求めるさまざまな人道的組織の呼びかけを支持します。」

イーロン・マスクとスティーブン・ホーキングは、どちらも高度なAIの危険性について警告しています。ホーキングはAIが「私たちの最大の存在的脅威」であり、完全なAIの開発が「人類の終焉を意味する可能性がある」と述べ、マスクはAIが「核兵器よりも危険な可能性がある」と言っています。

最近、ウォズニアックを含む他の人々はAIに対する考えを変え、アップルの共同創業者はロボットが人間にとって良いものであり、「家族のペットのように扱われ、常に世話をされるべきだ」と述べました。

4月にジュネーブで開催された国連会議で「キラーロボット」と呼ばれる武器の未来について議論する中で、英国は、さまざまな圧力団体からの呼びかけにもかかわらず、自律兵器の開発禁止に反対しました。