Amazon Demuestra que Alexa Imita las Voces de Personas Muertas

No puede volverse más inquietante y espeluznante que esto, ya que Amazon demostró el miércoles una nueva función que permite a su asistente virtual, Alexa, imitar las voces de los familiares muertos de los usuarios. ¡Sí, leíste bien!

La compañía presentó la función en la conferencia Re: MARS (Aprendizaje Automático, Automatización, Robots y Espacio) de Amazon en Las Vegas. En el breve clip de video, un niño le pide a Alexa que lea la historia de “El Mago de Oz” en la voz de su abuela fallecida.

Alexa reconoce la solicitud del niño con su voz robótica predeterminada y luego inmediatamente transiciona a un tono más suave y humano, aparentemente imitando la voz de la abuela fallecida del niño, y narra un extracto de la novela infantil.

“Como vieron en esta experiencia, en lugar de que la voz de Alexa lea el libro, es la voz de la abuela del niño”, dijo Rohit Prasad, Vicepresidente Senior de Amazon y Científico Jefe de Alexa AI.

Prasad introdujo el clip diciendo que agregar “atributos humanos” a los sistemas de IA era cada vez más importante “en estos tiempos de la pandemia en curso cuando muchos de nosotros hemos perdido a alguien que amamos.”

“Si bien la IA no puede eliminar ese dolor de pérdida, definitivamente puede hacer que sus recuerdos perduren”, agregó.

Mira el video de demostración a continuación:

El equipo de Alexa está enseñando al asistente digital a imitar la voz de cualquier persona que escuche a partir de solo una grabación de un minuto de ese audio.

La compañía está presentando la funcionalidad como una forma de ayudar a las personas a preservar recuerdos, especialmente a aquellos que perdieron a sus seres queridos debido al COVID-19.

“Esto requirió invenciones donde tuvimos que aprender a producir una voz de alta calidad con menos de un minuto de grabación en lugar de horas de grabación en el estudio”, dijo Prasad durante la conferencia.

“La forma en que lo hicimos fue enmarcando el problema como una tarea de conversión de voz y no como un camino de generación de habla. Sin duda estamos viviendo en la era dorada de la IA, donde nuestros sueños y la ciencia.”

Actualmente, la nueva función está en desarrollo, y Amazon no ha revelado cuándo planea lanzar la función al público. Después de que se anunció la función de imitación de voz de Alexa, algunos se expresaron en Twitter para expresar su preocupación sobre la capacidad, que podría ser mal utilizada por estafadores y ciberdelincuentes, así como ser utilizada para imitar las voces de otras personas sin su consentimiento.

El JODIDO que lo hará. ¿Recuerdas cuando te dijimos que los deepfakes aumentarían la desconfianza, la alienación y la crisis epistémica que ya está en marcha en esta cultura? Sí, eso. Eso multiplicado por MUCHO. “Amazon tiene un plan para hacer que Alexa imite la voz de cualquiera [sin su consentimiento]” https://t.co/kXm4EXKgp8 — Damien P. Williams, MA, MSc, ABD, Patternist (@Wolven) 22 de junio de 2022

Las implicaciones de ataque telefónico de esta herramienta no son buenas en absoluto; esto probablemente se utilizará para suplantación. En la conferencia re:MARS de Amazon anunciaron que están trabajando para usar clips de audio cortos de la voz de una persona y reprogramarlo para un discurso más largo https://t.co/5TkEIHoeXG — Rachel Tobac (@RachelTobac) 22 de junio de 2022

“ALEXA, REPRODUCE DESPACITO” La voz de mi abuela fallecida, robótica: “Ahora sonando en Amazon Music, Despacito” https://t.co/D6BLQCafzj — Parker Molloy (@ParkerMolloy) 22 de junio de 2022

Umm, ¿cuán pronto podrán los criminales usarlo para llamar a tus familiares pidiéndoles que les envíen dinero por Venmo? ¿O pedirles números de seguro social? ¿O información bancaria? — ?bitty_in_pink ? (@bitty_in_pink) 22 de junio de 2022