アマゾン、アレクサが故人の声を模倣する機能をデモ

これ以上不気味で恐ろしいことはありません。アマゾンは水曜日に、バーチャルアシスタントであるアレクサがユーザーの故人の親族の声を模倣する新機能をデモしました。はい、その通りです！

同社は、ラスベガスで開催されたアマゾンのRe: MARS（機械学習、自動化、ロボット、宇宙）カンファレンスでこの機能をデモしました。短いビデオクリップでは、少年がアレクサに故人の祖母の声で「オズの魔法使い」の物語を読んでほしいと頼んでいます。

アレクサは子供のリクエストをデフォルトのロボット音声で認識し、すぐにより柔らかく人間らしいトーンに移行し、子供の故人の祖母の声を模倣して、子供向け小説の抜粋を語ります。

「この体験で見たように、アレクサの声が本を読むのではなく、子供の祖母の声が読んでいるのです」と、アマゾンのシニアバイスプレジデント兼アレクサAIの責任者であるロヒット・プラサドは述べました。

プラサドはこのクリップを紹介し、「人間の属性をAIシステムに追加することがますます重要になっている」と述べ、「多くの人が愛する人を失った現在のパンデミックの時代において」と付け加えました。

「AIはその喪失の痛みを取り除くことはできませんが、彼らの記憶を持続させることは確実にできます」と彼は続けました。

以下のデモビデオをご覧ください：

アレクサチームは、デジタルアシスタントに、1分間の音声録音から聞いた誰の声でも模倣するように教えています。

同社は、この機能を、特にCOVID-19で愛する人を失った人々が思い出を保存する手助けとして提案しています。

「これは、スタジオで数時間録音するのではなく、1分未満の録音で高品質の声を生成する方法を学ぶ必要がありました」と、プラサドはカンファレンス中に述べました。

「私たちがそれを実現した方法は、問題を音声変換タスクとしてフレーミングし、スピーチ生成パスとしてではなくしたことです。私たちは間違いなくAIの黄金時代に生きており、私たちの夢と科学が融合しています。」

現在、この新機能は開発中であり、アマゾンは一般にこの機能を公開する予定を明らかにしていません。アレクサの声模倣機能が発表された後、一部の人々は、詐欺師やサイバー犯罪者によって悪用される可能性があるこの機能について懸念を表明するためにTwitterに投稿しました。

お前は絶対にそうはならない。ディープフェイクがこの文化で進行中の不信、疎外、そして認識危機を増加させると言ったときのことを覚えているか？そう、それだ。それが非常に多くなる。「アマゾンはアレクサが誰の声でも模倣する計画を持っている[彼らの同意なしに]」 https://t.co/kXm4EXKgp8 — Damien P. Williams, MA, MSc, ABD, Patternist (@Wolven) 2022年6月22日

このツールの電話攻撃の影響は全く良くない — これはおそらく偽装に使用されるでしょう。アマゾンのre:MARSカンファレンスで、彼らは人の声の短い音声クリップを使用して、より長いスピーチのために再プログラムする作業を進めていると発表しました https://t.co/5TkEIHoeXG — Rachel Tobac (@RachelTobac) 2022年6月22日

「アレクサ、デスパシートを再生して」 私の故人の祖母の声、ロボット音声:「アマゾンミュージックで再生中、デスパシート」 https://t.co/D6BLQCafzj — Parker Molloy (@ParkerMolloy) 2022年6月22日

えっと、犯罪者がそれを使ってあなたの家族に電話をかけて現金を要求するのはどれくらい早いですか？または、社会保障番号を尋ねる？または銀行情報を？ — ?bitty_in_pink ? (@bitty_in_pink) 2022年6月22日