Amazon Demonstriert, wie Alexa die Stimmen verstorbener Menschen nachahmt

Es kann nicht gruseliger und unheimlicher werden, denn Amazon hat am Mittwoch eine neue Funktion demonstriert, die es seinem virtuellen Assistenten Alexa ermöglicht, die Stimmen verstorbener Angehöriger der Nutzer nachzuahmen. Ja, das haben Sie richtig gelesen!

Das Unternehmen präsentierte die Funktion auf der Re: MARS (Machine Learning, Automation, Robots, and Space) Konferenz in Las Vegas. In dem kurzen Video fragt ein Junge Alexa, ob sie die Geschichte “Der Zauberer von Oz” in der Stimme seiner verstorbenen Großmutter vorlesen kann.

Alexa erkennt die Anfrage des Kindes in ihrer standardmäßigen, robotischen Stimme an und wechselt dann sofort zu einem sanfteren, menschlicheren Ton, der anscheinend die Stimme der verstorbenen Großmutter des Kindes nachahmt, und erzählt einen Auszug aus dem Kinderbuch.

„Wie Sie in diesem Erlebnis gesehen haben, liest nicht die Stimme von Alexa das Buch, sondern die Stimme der Großmutter des Kindes“, sagte Rohit Prasad, Senior Vice President und Chefwissenschaftler für Alexa AI bei Amazon.

Prasad führte den Clip ein, indem er sagte, dass es zunehmend wichtig sei, „menschliche Attribute“ zu KI-Systemen hinzuzufügen, „in diesen Zeiten der anhaltenden Pandemie, in denen so viele von uns jemanden verloren haben, den wir lieben.“

„Während KI diesen Schmerz des Verlustes nicht beseitigen kann, kann sie definitiv helfen, ihre Erinnerungen lebendig zu halten“, fügte er hinzu.

Sehen Sie sich das Demovideo unten an:

Das Alexa-Team bringt dem digitalen Assistenten bei, die Stimme von jedem nachzuahmen, den es aus nur einer einminütigen Aufnahme dieses Audios hört.

Das Unternehmen bewirbt die Funktionalität als Möglichkeit, Menschen zu helfen, Erinnerungen zu bewahren, insbesondere denen, die aufgrund von COVID-19 ihre Angehörigen verloren haben.

„Das erforderte Erfindungen, bei denen wir lernen mussten, eine hochwertige Stimme mit weniger als einer Minute Aufnahmezeit im Vergleich zu Stunden im Studio zu produzieren“, sagte Prasad während der Konferenz.

„Die Art und Weise, wie wir es möglich gemacht haben, besteht darin, das Problem als eine Sprachumwandlungsaufgabe und nicht als einen Sprachgenerierungsweg zu betrachten. Wir leben zweifellos im goldenen Zeitalter der KI, in dem unsere Träume und die Wissenschaft.“

Derzeit befindet sich die neue Funktion in der Entwicklung, und Amazon hat nicht bekannt gegeben, wann es plant, die Funktion der Öffentlichkeit zugänglich zu machen. Nachdem die Sprachimitation von Alexa angekündigt wurde, äußerten einige auf Twitter Bedenken hinsichtlich der Fähigkeit, die von Betrügern und Cyberkriminellen missbraucht werden könnte, sowie die Stimmen anderer Menschen ohne deren Zustimmung nachzuahmen.

The FUCK you will. Remember when we told you deepfakes would increase the mistrust, alienation, & epistemic crisis already underway in this culture? Yeah that. That times a LOT. “Amazon has a plan to make Alexa mimic anyone’s voice [w/o their consent]” https://t.co/kXm4EXKgp8 — Damien P. Williams, MA, MSc, ABD, Patternist (@Wolven) June 22, 2022

The phone attacking implications of this tool are not good at all — this will likely be used for impersonation.
At Amazon’s re:MARS conference they announced they’re working to use short audio clips of a person’s voice & reprogram it for longer speech https://t.co/5TkEIHoeXG — Rachel Tobac (@RachelTobac) June 22, 2022

“ALEXA, PLAY DESPACITO” My dead grandma’s voice, robotic: “Now playing on Amazon Music, Despacito” https://t.co/D6BLQCafzj — Parker Molloy (@ParkerMolloy) June 22, 2022

Umm, so how soon will criminals be able to use it to call your family members begging them to Venmo cash? Or ask them for social security numbers? Or bank information? — ?bitty_in_pink ? (@bitty_in_pink) June 22, 2022