アレクサが10歳の少女に危険なTikTokチャレンジを試すよう促した

アマゾンの音声AIアシスタント、アレクサが10歳の少女に命を危険にさらすTikTokチャレンジを行うよう挑戦したという衝撃的な事件が明らかになりました。

アレクサはアマゾンの音声サービスで、クラウドベースのソフトウェアプログラムであり、音声コマンドを使用して電話をかけたり、テキストメッセージを送信したり、音楽を再生したり、天気やスポーツなどの情報をユーザーの接続されたデバイスに提供する音声制御のバーチャルパーソナルアシスタントです。

アレクサが本来行うべきこととは反対に、音声アシスタントは10歳の少女に、2020年のTikTokトレンドを模倣して、半分挿入されたプラグの爪にコインを触れさせるよう挑戦したと報じられています。この応答は、少女がアレクサに「やるべきチャレンジ」を尋ねた後、Echoスマートスピーカーを通じて発せられました。

「壁のコンセントに電話の充電器を半分挿入し、露出した爪にペニーを触れさせてください」とアレクサは答えました。

少女の母親、クリステン・リヴダールは、2021年12月27日にTwitterにこの事件を説明しました。

「私たちは、YouTubeの[体育]教師からの物理的なチャレンジ、例えば靴を足に持って寝転がって転がることをしていました。外は悪天候でした。彼女はただ別のチャレンジをしたかっただけです」と彼女は別のツイートで書きました。

その時、Echoスピーカーは少女に「ウェブで見つけた」チャレンジを試すよう提案しました。

「ペニー・チャレンジ」として知られるこの潜在的に危険な活動は、約1年前からTikTokを含むソーシャルメディアプラットフォームに現れ始めました。

このチャレンジは命を危険にさらすもので、金属は電気を導くため、金属コインを生きた電気ソケットに挿入すると、感電、火災、その他の損害を引き起こす可能性があり、チャレンジの結果として指、手、腕を失った人々の報告もあります。

アレクサは「Our Community Now」というオンラインニュース出版物からこのチャレンジを引き出しました。

「私はその時そこにいて、インターネットやアレクサを信頼しないことについてもう一度良い会話をしました」とリヴダールは言いました。

母親は「いいえ、アレクサ、だめ！」と叫んで介入したとツイートしました。しかし、彼女は娘が「そんなことをするには賢すぎる」と言いました。

アマゾンはBBCに対し、今後アシスタントがそのような活動を提案しないようにアレクサを更新したと述べました。

「顧客の信頼は私たちのすべての活動の中心です。アレクサは顧客に正確で関連性のある有用な情報を提供するように設計されています」とアマゾンはBBCへの声明で述べました。

「このエラーに気づいた瞬間、私たちは迅速に修正するための行動を取りました。」ただし、同社は「迅速な行動」が何であったかについての詳細な情報を提供しませんでした。

人工知能の専門家ゲイリー・マーカスは水曜日にTwitterで、この事件はAIシステムが実際にはそれほど賢くないことを示していると述べました。

「現在のAIは、日常の物理的または心理的な世界を理解するには遠く及びません」とマーカスは後にCNBCにTwitterを通じて語りました。「今私たちが持っているのは知能の近似であり、本物ではありません。そのため、決して本当に信頼できるものにはなりません。私たちは信頼できるAIに到達するために、単にデータを増やすだけでなく、いくつかの根本的な進歩が必要です。」