Amazon Demonstra Alexa Imitando Vozes de Pessoas Mortas

Não pode ficar mais assustador e sinistro do que isso, já que a Amazon demonstrou na quarta-feira um novo recurso que permite que seu assistente virtual, Alexa, imite as vozes de parentes falecidos dos usuários. Sim, você leu certo!

A empresa apresentou o recurso na conferência Re: MARS (Machine Learning, Automation, Robots, and Space) da Amazon em Las Vegas. No curto clipe de vídeo, um menino pede à Alexa para ler a história “O Mágico de Oz” na voz de sua avó falecida.

A Alexa reconhece o pedido da criança em sua voz robótica padrão e, em seguida, imediatamente transita para um tom mais suave e humano, aparentemente imitando a voz da avó falecida da criança, e narra um trecho do romance infantil.

“Como você viu nesta experiência, em vez da voz da Alexa lendo o livro, é a voz da avó da criança”, disse Rohit Prasad, Vice-Presidente Sênior da Amazon e Cientista Chefe da Alexa AI.

Prasad introduziu o clipe dizendo que adicionar “atributos humanos” aos sistemas de IA era cada vez mais importante “nestes tempos de pandemia em andamento, quando muitos de nós perdemos alguém que amamos.”

“Embora a IA não possa eliminar a dor da perda, definitivamente pode fazer com que suas memórias durem”, acrescentou.

Confira o vídeo da demonstração abaixo:

A equipe da Alexa está ensinando o assistente digital a imitar a voz de qualquer pessoa que ouve a partir de apenas uma gravação de um minuto desse áudio.

A empresa está promovendo a funcionalidade como uma forma de ajudar as pessoas a preservar memórias, especialmente aquelas que perderam seus entes queridos devido à COVID-19.

“Isso exigiu invenções onde tivemos que aprender a produzir uma voz de alta qualidade com menos de um minuto de gravação em vez de horas de gravação em estúdio”, disse Prasad durante a conferência.

“A maneira como conseguimos isso foi enquadrando o problema como uma tarefa de conversão de voz e não um caminho de geração de fala. Estamos indiscutivelmente vivendo na era de ouro da IA, onde nossos sonhos e a ciência.”

Atualmente, o novo recurso está em desenvolvimento, e a Amazon não revelou quando planeja lançar o recurso ao público. Após o anúncio da funcionalidade de imitação de voz da Alexa, alguns foram ao Twitter para expressar preocupação sobre a capacidade, que poderia ser mal utilizada por golpistas e cibercriminosos, além de ser usada para imitar as vozes de outras pessoas sem seu consentimento.

O que você vai fazer. Lembra quando dissemos que os deepfakes aumentariam a desconfiança, alienação e a crise epistêmica já em andamento nesta cultura? Sim, isso. Isso vezes MUITO. “A Amazon tem um plano para fazer a Alexa imitar a voz de qualquer um [sem seu consentimento]” https://t.co/kXm4EXKgp8 — Damien P. Williams, MA, MSc, ABD, Patternist (@Wolven) 22 de junho de 2022

As implicações de ataque telefônico desta ferramenta não são boas — isso provavelmente será usado para impersonificação. Na conferência re:MARS da Amazon, anunciaram que estão trabalhando para usar clipes de áudio curtos da voz de uma pessoa e reprogramá-la para uma fala mais longa https://t.co/5TkEIHoeXG — Rachel Tobac (@RachelTobac) 22 de junho de 2022

“ALEXA, TOQUE DESPACITO” A voz da minha avó falecida, robótica: “Agora tocando no Amazon Music, Despacito” https://t.co/D6BLQCafzj — Parker Molloy (@ParkerMolloy) 22 de junho de 2022

Umm, então, quão cedo os criminosos poderão usá-la para ligar para seus familiares pedindo que eles enviem dinheiro pelo Venmo? Ou pedir números de seguridade social? Ou informações bancárias? — ?bitty_in_pink ? (@bitty_in_pink) 22 de junho de 2022