Amazon Dimostra Alexa che Imita le Voci di Persone Decedute

Non può diventare più inquietante e spettrale di così, poiché Amazon mercoledì ha dimostrato una nuova funzionalità che consente al suo assistente virtuale, Alexa, di imitare le voci dei familiari defunti degli utenti. Sì, hai letto bene!

L’azienda ha presentato la funzionalità alla conferenza Re: MARS (Machine Learning, Automation, Robots, and Space) di Amazon a Las Vegas. Nel breve video, un ragazzo chiede ad Alexa di leggere la storia “Il Mago di Oz” con la voce della sua defunta nonna.

Alexa riconosce la richiesta del bambino con la sua voce robotica predefinita, e poi passa immediatamente a un tono più morbido e simile a quello umano, apparentemente imitando la voce della defunta nonna del bambino, e narra un estratto dal romanzo per bambini.

“Come hai visto in questa esperienza, invece della voce di Alexa che legge il libro, è la voce della nonna del bambino,” ha detto Rohit Prasad, Vicepresidente Senior di Amazon e Capo Scienziato per Alexa AI.

Prasad ha introdotto il clip dicendo che aggiungere “attributi umani” ai sistemi di intelligenza artificiale era sempre più importante “in questi tempi di pandemia in corso quando così tanti di noi hanno perso qualcuno che amano.”

“Sebbene l’IA non possa eliminare quel dolore della perdita, può sicuramente far durare i loro ricordi,” ha aggiunto.

Guarda il video dimostrativo qui sotto:

Il team di Alexa sta insegnando all’assistente digitale a imitare la voce di chiunque senta da una registrazione audio di solo un minuto.

L’azienda sta proponendo questa funzionalità come un modo per aiutare le persone a preservare i ricordi, specialmente coloro che hanno perso i propri cari a causa del COVID-19.

“Questo ha richiesto invenzioni in cui abbiamo dovuto imparare a produrre una voce di alta qualità con meno di un minuto di registrazione rispetto a ore di registrazione in studio,” ha detto Prasad durante la conferenza.

“Il modo in cui l’abbiamo realizzato è stato inquadrando il problema come un compito di conversione vocale e non un percorso di generazione del parlato. Stiamo indubbiamente vivendo nell’era d’oro dell’IA, dove i nostri sogni e la scienza.”

Attualmente, la nuova funzionalità è in fase di sviluppo, e Amazon non ha rivelato quando prevede di rilasciare la funzionalità al pubblico. Dopo l’annuncio della funzionalità di imitazione della voce di Alexa, alcuni si sono rivolti a Twitter per esprimere preoccupazione riguardo a questa capacità, che potrebbe essere abusata da truffatori e criminali informatici, oltre a essere utilizzata per imitare le voci di altre persone senza il loro consenso.

Il cazzo che lo farai. Ricordi quando ti abbiamo detto che i deepfake avrebbero aumentato la sfiducia, l’alienazione e la crisi epistemica già in corso in questa cultura? Sì, quello. Quello moltiplicato per MOLTO. “Amazon ha un piano per far imitare ad Alexa la voce di chiunque [senza il loro consenso]” https://t.co/kXm4EXKgp8 — Damien P. Williams, MA, MSc, ABD, Patternist (@Wolven) 22 giugno 2022

Le implicazioni di attacco telefonico di questo strumento non sono affatto buone — probabilmente sarà usato per impersonificazione. Alla conferenza re:MARS di Amazon hanno annunciato che stanno lavorando per utilizzare brevi clip audio della voce di una persona e riprogrammarla per un discorso più lungo https://t.co/5TkEIHoeXG — Rachel Tobac (@RachelTobac) 22 giugno 2022

“ALEXA, RIPRODUCI DESPACITO” La voce della mia defunta nonna, robotica: “Ora in riproduzione su Amazon Music, Despacito” https://t.co/D6BLQCafzj — Parker Molloy (@ParkerMolloy) 22 giugno 2022

Umm, quindi quanto presto i criminali saranno in grado di usarlo per chiamare i tuoi familiari implorandoli di inviare denaro tramite Venmo? O chiedere loro numeri di previdenza sociale? O informazioni bancarie? — ?bitty_in_pink ? (@bitty_in_pink) 22 giugno 2022