このロボットは意図的に人を傷つけ、出血させることができる

スカイネットの復活: このロボットは人を意図的に傷つけ、出血させる

多くのAIおよびロボティクスの擁護者は、アシモフのロボティクスの第一法則に基づいてAIを支持しています。

アシモフのロボティクスの第一法則は非常に明確です: ロボットは人を傷つけてはならない。

テスラのイーロン・マスクを含む終末予測者たちは、AIによるターミネーター風のスカイネットの世界支配を長い間予測してきましたが、擁護者やロボティクスの支持者は常にアシモフのロボティクスの第一法則を頼りにして、AIとロボティクスの革新を擁護してきました。

確かに、製造業でよく使用される大きなロボットがいくつかあり、それらは危険だと考えられるべきですが、ロボティクスの専門家たちはその法則をほとんど無視してきました。

サイエンスフィクションの巨匠アイザック・アシモフは、1942年の短編小説『ランアラウンド』で「法則」を記しましたが、その中の三つの法則の一つは次のように述べています。「ロボットは人間から与えられた命令に従わなければならない。ただし、その命令が第一法則と矛盾する場合は除く。」

確かに、ロボットに関する事故は発生します。たとえば、誰かが産業用ロボットに近づきすぎたときなどです。

しかし、今、カリフォルニア州バークレーの男性が倫理学者、哲学者、弁護士などの間で技術の行く先やロボットが未来の文明にどのような危険をもたらすかについて健全な議論を始めたいと考えています。ロボティクスの専門家でありアーティストであるアレクサンダー・レーベンは、人を傷つけることを唯一の機械的目的とする卓上ロボットを開発しました。レーベンは、自身のフランケンシュタインが人々に話をさせることを望んでいます。

ドアや窓を閉める前に、用語を定義しましょう: レーベンのロボットによって引き起こされる害は、ただの針のようなものであり、高速で行われるため、指先に小さな針が引き起こす最大限の痛みを引き起こします。

そして面白いことに、彼は機械を計画して、傷害が体系的に引き起こされないようにしました。時にはロボットが攻撃し、時には攻撃しません。レーベン自身も、危険にさらされた指先を見せるとき、血が流れるかどうか全く分かりません。

美しいビクトリア様式の邸宅の最上階の広い部屋で、レーベンは「誰も意図的に誰かを傷つけるために作られたロボットを実際に作ったことはありません。私は、実際に存在するこのようなロボットを作りたかったのです…それは重要でした。思考実験の領域から現実に持ち込むことが重要でした。なぜなら、何かが世界に存在すると、私たちはそれに直面しなければならないからです。それはより緊急になります。単にそれについて講釈を垂れることはできません。」と主張しています。

MITメディアラボの研究者で、「ロボット技術の近未来的な社会的影響」を研究しているケイト・ダーリングは、実験についての意見を求められたとき、彼女はそれが好きだと言いました。主にロボットが含まれているからです。「でも、私はそれに手を入れたくはありません。」と彼女は付け加えます。

レーベンは、ブレブドロイドの創造者として最もよく知られているかもしれません。これは、小さく無害に見えるロボットで、出会った人々に彼らの人生についての話をするように動機づけます。彼の作品は、テクノロジーとの関係や、そのテクノロジーがどのように私たちの人間性を理解するのに役立つかに焦点を当ててきました。

彼は、人々がロボットに対してますます恐れを抱いていることを非常に意識しています。これは、ロボットが私たちに対して何らかの理論的な物理的危険をもたらすからか、または多くの人々が私たちを置き換えようとしていると見なしているからです。最近の一般的なフレーズは「ロボットが支配する」または「ロボットが私たちの仕事を奪う」です。

レーベンは、人々がロボットからの危険にどのように対処するかという問題に対して、実際にそれが発生する前に対処することを促したいと考えています。通常、そのような仕事は学者に任されるかもしれませんが、レーベンは、実際に人を傷つけるロボットを開発することができる研究機関はないと信じています。同様に、彼は「意図的に痛みを引き起こすロボットを作った最初の会社として知られたくはない」と考えています。

「ますます自律的な技術が進化する中で、ロボットを動物に類似したものとして見る方が理にかなっているかもしれません。私たちもその行動を常に予測できるわけではありません。」

彼は、そのようなことはアートの世界に任せる方が良いと考えています。「人々はオープンマインドを持っています。」

彼のロボットが人々の腕を引き裂いたり、誰かを小さく粉砕したりするわけではないため、あまり大きな抗議は起こらないかもしれません。少なくとも、彼の機械が深刻な害を引き起こしている場合のようなタイプではありません。

レーベンは、法律、哲学、工学、倫理など、異なる分野の人々が彼が作ったものに注目することを望んでいます。「これらの学際的な人々が集まる必要があります。」とレーベンは言います。「彼らのうちの誰もが完全に理解したり解決したりできない問題を解決するために。」

彼は、弁護士が人を傷つけることができるロボットに関する責任問題を論じ、倫理学者がそのような実験について考えることが許されるかどうかを考えることを想像しています。哲学者は、なぜそのようなロボットが存在するのかを考えるでしょう。

しかし、アシモフの法則が私たちを守ることは決してなかったと信じる理由があります。

2014年、AI理論家で金融予測会社Aidyia Holdingsの最高科学者であるベン・ゴーツェルは、io9に「三つの法則のポイントは、興味深い方法で失敗することでした。それが、彼らに関するほとんどの物語を興味深くしたのです。したがって、三つの法則は、特定のルールに基づいて倫理を立法化しようとする試みが崩壊し、さまざまな抜け穴を持つことを教える上で有益でした。」と語りました。

実験であろうとなかろうと、ダーリングは、レーベンが自分のロボットによって引き起こされる害に対して倫理的責任を負うべきだと主張しています。なぜなら、彼がそれを設計したからです。

「私たちは、自律ロボットを扱う際に、害に対する倫理的責任から徐々に距離を置くかもしれません。」とダーリングは言います。「もちろん、法制度は依然として責任を割り当てますが…ロボットの行動を予測できる能力が遠ざかるほど、害は「意図的」でなくなります。」

技術が進歩するにつれて、彼女は私たちが機械を見る方法を再考する必要があるかもしれないと考えています。

「責任の観点から見ると、ロボットは私たちが自分自身の延長として扱う道具以上のものになるでしょう。ますます自律的な技術が進化する中で、ロボットを動物に類似したものとして見る方が理にかなっているかもしれません。私たちもその行動を常に予測できるわけではありません。」

しかし、レーベンにとって、彼は自律技術が進歩するにつれて、人々が砂の中に頭を突っ込むのをやめることを望んでいます。

「私は人々がそれの物理性に直面し始めることを望んでいます。」とレーベンは言います。「それは哲学的な領域の外で、もう少し意識を高めるでしょう。」

「予期しないことが起こる状況は常に存在し、それにどのように対処するかは重要な考慮事項になるでしょう。」

Fast Company.