Amazon démontre qu'Alexa imite les voix des personnes décédées

Cela ne peut pas devenir plus effrayant et sinistre que cela, alors qu’Amazon a démontré mercredi une nouvelle fonctionnalité qui permet à son assistant virtuel, Alexa, d’imiter les voix des proches décédés des utilisateurs. Oui, vous avez bien lu !

L’entreprise a présenté la fonctionnalité lors de la conférence Re: MARS (Machine Learning, Automation, Robots, and Space) d’Amazon à Las Vegas. Dans le court extrait vidéo, un garçon demande à Alexa de lire l’histoire de “Le Magicien d’Oz” dans la voix de sa grand-mère décédée.

Alexa reconnaît la demande de l’enfant dans sa voix robotique par défaut, puis passe immédiatement à un ton plus doux et plus humain, imitant apparemment la voix de la grand-mère décédée de l’enfant, et narre un extrait du roman pour enfants.

“Comme vous l’avez vu dans cette expérience, au lieu que la voix d’Alexa lise le livre, c’est la voix de la grand-mère de l’enfant,” a déclaré Rohit Prasad, vice-président senior d’Amazon et scientifique en chef pour Alexa AI.

Prasad a introduit le clip en disant qu’ajouter des “attributs humains” aux systèmes d’IA était de plus en plus important “en ces temps de pandémie en cours où tant d’entre nous ont perdu quelqu’un qu’ils aiment.”

“Bien que l’IA ne puisse pas éliminer cette douleur de la perte, elle peut certainement faire en sorte que leurs souvenirs perdurent,” a-t-il ajouté.

Découvrez la vidéo de démonstration ci-dessous :

L’équipe Alexa enseigne à l’assistant numérique à imiter la voix de quiconque l’entend à partir d’un enregistrement audio d’une minute.

L’entreprise présente cette fonctionnalité comme un moyen d’aider les gens à préserver des souvenirs, en particulier ceux qui ont perdu leurs proches en raison de la COVID-19.

“Cela a nécessité des inventions où nous avons dû apprendre à produire une voix de haute qualité avec moins d’une minute d’enregistrement contre des heures d’enregistrement en studio,” a déclaré Prasad lors de la conférence.

“La façon dont nous avons fait cela est en encadrant le problème comme une tâche de conversion de voix et non comme un chemin de génération de discours. Nous vivons sans aucun doute dans l’ère dorée de l’IA, où nos rêves et la science.”

Actuellement, la nouvelle fonctionnalité est en développement, et Amazon n’a pas révélé quand elle prévoit de la déployer au public. Après l’annonce de la fonctionnalité d’imitation de voix d’Alexa, certains se sont tournés vers Twitter pour exprimer leur inquiétude concernant cette capacité, qui pourrait être mal utilisée par des escrocs et des cybercriminels ainsi que pour imiter les voix d’autres personnes sans leur consentement.

Le PUTAIN que vous allez. Vous vous souvenez quand nous vous avons dit que les deepfakes augmenteraient la méfiance, l’aliénation et la crise épistémique déjà en cours dans cette culture ? Ouais, ça. Ça multiplié par BEAUCOUP. “Amazon a un plan pour faire imiter à Alexa la voix de quiconque [sans leur consentement]” https://t.co/kXm4EXKgp8 — Damien P. Williams, MA, MSc, ABD, Patternist (@Wolven) 22 juin 2022

Les implications d’attaque téléphonique de cet outil ne sont pas du tout bonnes — cela sera probablement utilisé pour l’usurpation d’identité. Lors de la conférence re:MARS d’Amazon, ils ont annoncé qu’ils travaillaient à utiliser de courts extraits audio de la voix d’une personne et à le reprogrammer pour un discours plus long https://t.co/5TkEIHoeXG — Rachel Tobac (@RachelTobac) 22 juin 2022

“ALEXA, JOUER DESPACITO” La voix de ma grand-mère décédée, robotique : “Maintenant en train de jouer sur Amazon Music, Despacito” https://t.co/D6BLQCafzj — Parker Molloy (@ParkerMolloy) 22 juin 2022

Euh, alors dans combien de temps les criminels pourront-ils l’utiliser pour appeler vos membres de la famille en leur demandant de leur envoyer de l’argent via Venmo ? Ou leur demander des numéros de sécurité sociale ? Ou des informations bancaires ? — ?bitty_in_pink ? (@bitty_in_pink) 22 juin 2022