ロボットは人間を殺すことを許可されるべきか？

殺人ロボットは人間を殺すことを許可されるべきか、国連が問いかける！

技術は大きな飛躍を遂げ、軍事兵器は自律的に行動することが信頼されていますが、これらの「殺人ロボット」に人間の命を奪う決定を委ねる準備ができているのかは依然として大きな疑問です！！

4月13日、ロボット工学の専門家たちがジュネーブで開催されたCCW（通常兵器に関する条約）の会議で、「致死的自律兵器システム」（LAWS）または「殺人ロボット」の未来について議論しました。

同様の会議は2014年5月に行われ、その際、当時の国連ジュネーブ事務所の事務局長マイケル・モラーが「国際法は、しばしば、 atrocities と苦しみが発生した後にのみ反応する」と述べました。したがって、今週行われた会議は、CCWの専門家たちが新たに出現する致死的技術について議論し、各国がそれらの技術を使用する前に把握するための二回目の会議でした。

サイバーセキュリティという言葉は、私たちの目の前に仮想ネットワークやコンピュータのイメージをもたらし、ソフトウェアが破壊に組み込まれる方法を示します。しかし、サイバーセキュリティの概念は一般的にコンピュータに制限されています。今日、ソフトウェアは軍事兵器にも到達し、さまざまな国が主要な戦争機械を構築するためにソフトウェアを展開しています。技術が大きな飛躍を遂げる中、武器が完全に自律的になる日も遠くありません。ここで唯一の疑問は、私たちが自律的な殺人兵器に人間を殺す決定を完全に委ねる準備ができているのかということです！今日すでに使用されている自律兵器は、人間を殺す命令を出す人が必要です。したがって、ここでの決定は命令を出すオペレーターの手にありますが、完全に自律的な武器の場合、AIが理由もなく人間を殺すことを決定した場合、誰を責めるべきかは依然として疑問です。

オープニングブリーフィングで、ノーベル平和賞受賞者で「殺人ロボットを止めるキャンペーン」の共同創設者であるジョディ・ウィリアムズは、「まだNOと言う時間がある」と明確に述べました。ウィリアムズはさらに、「これは私たち人間が下すことができる決定です。私たちが下さなければならない決定です。他の人間に対する生死の権力を私たち自身が設計した自律機械に譲ってはいけません。まだ遅くはありません。」と述べました。

2013年、国連事務総長のバン・キムンが「殺人ロボット」の概念から生じるいくつかの質問を明確に提起しました。以下のように述べています。「致死的な力の使用に関する決定をそのようなシステムに委ねることは道徳的に許容されるのか？その使用が戦争犯罪や重大な人権侵害を引き起こした場合、誰が法的に責任を負うのか？国際法が要求するように責任を特定できない場合、そのようなシステムを展開することは合法的または倫理的であるのか？」

基本的に「殺人ロボットを止めるキャンペーン」は、LAWSに対する「予防的禁止」を求めていますが、国連は致死的兵器について議論しているだけで、現時点ではさらなる行動は取られないようです。実際、予防的禁止は、殺人ロボットを禁止することを一方的に支持するすべての加盟国の相互合意の後にのみ実現可能です。そして、国連が殺人ロボットを禁止するための多数の支持を得ることに成功すれば、それはLAWSが現実になる前に禁止されることを意味します。しかし、これは国連が現実になる前に何かを禁止するのは初めてではありません。1995年に国連が「盲目レーザー兵器に関する議定書」を禁止した際も、過度に有害であるか無差別な影響を持つとされていました。

ここ数ヶ月、多くの人々が人工知能が人間に与える潜在的な脅威について議論しています。スタンフォード大学は一歩前進し、「人工知能の影響に関する100年の研究AI100」に取り組んでいます。この研究は、AIが人間の生活のあらゆる側面に与える実際の影響を構成しています。

一方で、コンピュータ科学とAIの分野の多くの専門家が「オープンレター」に署名し、進行中の研究の詳細がリストに追加され、人類に対するAIの利益を確認するためのチェックが行われています。

「殺人ロボット」に関するすべての議論の中で、フランスとイギリスはそのような自律兵器を追求しないことが明確です。しかし、イスラエルとアメリカは、これらの武器の将来的な取得のために扉を開けたままにしています。実際、現時点ではLAWSの予防的禁止に対して準備ができている国はないようです。

読者の皆さんは、この決定についてどう思いますか？AIが仮想の殺人ロボットを作成することによって軍事兵器に導入されるべきでしょうか？それがいつか人間よりも賢く考え始め、自分自身のクローン「AI殺人ロボット」を守るために人間を殺し始めるかもしれません……考えてみてください！！