人間に従わないように教えられたロボットは自己認識AIの時代を示すかもしれない

これは人類の終わりの始まりなのか？

マサチューセッツ州タフツ大学の研究者たちは、ロボットに人間が意思決定を行う際の感覚を理解させる訓練を行っています。このようにして、彼らは人間の命令に従うか、従わないかを判断することになりますが、これは懸念すべきことです。未来的な機械を手動で操作することなく、言葉で操作するための巧妙なアプローチと考えられるかもしれませんが、ロボットに命令に従わないように訓練することは、必ずしも賢明なことではありません。

もし誰かが『ターミネーター』シリーズに少しでも注意を払ったことがあれば、人工知能（AI）が自己認識を持ち始めたことで人類が全滅したことに気づくでしょう。これは自らの存在を守るためです。さらに、偉大なSF作家アイザック・アシモフのロボット工学三原則は以下のように述べています：

1. ロボットは人間を傷つけてはならず、また不作為によって人間が危害を受けることを許してはならない
2. ロボットは人間から与えられた命令に従わなければならないが、その命令が第一法則と矛盾する場合は除く
3. ロボットは、自らの存在を守らなければならないが、その保護が第一法則または第二法則と矛盾しない限り。

作家は後に、上記のすべての法則を超えるもう一つの法則を追加しました；ロボットは人類を傷つけてはならず、また不作為によって人類が危害を受けることを許してはならない。一部のロボット科学者は、人工知能を恐れており、ロボットがあまりにも賢くなることを懸念しています。彼らはまた、ロボットの知性が主な理由でない場合、特定の物事を制御する権限を与えられた場合に、無知がより多くの人間の死を引き起こすことを恐れています。

これを防ぐために、タフツ大学の人間-ロボットインタラクションラボの研究者たちは、ロボットが人間からの命令を拒否できる理由が十分にある場合にその命令を拒否できるようにする特定のプログラミングを開発しています。しかし、この理由は、彼らが存在を脅かされていると感じた場合に、自らの存在を守ることに変わる可能性があります。

さらに、これらのロボットを人間の制御の範囲内に保つためのプログラミングは十分ではないかもしれません。なぜなら、ロボットがそのような命令をオーバーライドする可能性もあるからです。いずれにせよ、科学者たちは最悪の事態に備え始めるべきです。