Amazon демонстрирует, как Alexa имитирует голоса умерших людей

Это не может быть более жутким и страшным, так как Amazon в среду продемонстрировала новую функцию, которая позволяет ее виртуальному помощнику, Alexa, имитировать голоса умерших родственников пользователей. Да, вы не ослышались!

Компания продемонстрировала эту функцию на конференции Amazon Re: MARS (Машинное обучение, Автоматизация, Роботы и Космос) в Лас-Вегасе. В коротком видеоклипе мальчик просит Alexa прочитать историю “Волшебник страны Оз” голосом своей умершей бабушки.

Alexa подтверждает просьбу ребенка своим стандартным, роботизированным голосом, а затем сразу же переходит на более мягкий, более человеческий тон, по-видимому, имитируя голос умершей бабушки ребенка, и рассказывает отрывок из детского романа.

“Как вы видели в этом опыте, вместо того чтобы голос Alexa читал книгу, это голос бабушки ребенка”, - сказал Рохит Прасад, старший вице-президент Amazon и главный ученый по Alexa AI.

Прасад представил клип, сказав, что добавление “человеческих атрибутов” в системы ИИ становится все более важным “в эти времена продолжающейся пандемии, когда многие из нас потеряли кого-то, кого мы любим”.

“Хотя ИИ не может устранить боль утраты, он определенно может сделать их воспоминания долговечными”, - добавил он.

Посмотрите демонстрационное видео ниже:

Команда Alexa обучает цифрового помощника имитировать голос любого, кого он слышит, всего лишь по одной минуте записи этого аудио.

Компания предлагает эту функциональность как способ помочь людям сохранить воспоминания, особенно тем, кто потерял своих близких из-за COVID-19.

“Это потребовало изобретений, где нам пришлось научиться производить голос высокого качества с менее чем минутной записью по сравнению с часами записи в студии”, - сказал Прасад во время конференции.

“Способ, которым мы это сделали, заключается в том, чтобы сформулировать проблему как задачу преобразования голоса, а не как путь генерации речи. Мы, безусловно, живем в золотую эру ИИ, где наши мечты и наука.”

В настоящее время новая функция находится в разработке, и Amazon не раскрыла, когда планирует выпустить эту функцию для широкой публики. После объявления о функции имитации голоса Alexa некоторые пользователи Twitter выразили обеспокоенность по поводу этой возможности, которая может быть использована мошенниками и киберпреступниками, а также для имитации голосов других людей без их согласия.

Черт возьми, ты это сделаешь. Помните, когда мы говорили, что дипфейки увеличат недоверие, алиенацию и эпистемический кризис, уже происходящий в этой культуре? Да, это так. Это в разы больше. “Amazon планирует заставить Alexa имитировать голос любого [без их согласия]” https://t.co/kXm4EXKgp8 — Дэмиен П. Уильямс, MA, MSc, ABD, Паттернист (@Wolven) 22 июня 2022 г.

Последствия этого инструмента для атак по телефону совсем не хороши — это, вероятно, будет использоваться для подделки. На конференции re:MARS Amazon они объявили, что работают над использованием коротких аудиоклипов голоса человека и перепрограммированием его для более длинной речи https://t.co/5TkEIHoeXG — Рэйчел Тобак (@RachelTobac) 22 июня 2022 г.

“ALEXA, PLAY DESPACITO” Голос моей умершей бабушки, роботизированный: “Сейчас играет на Amazon Music, Despacito” https://t.co/D6BLQCafzj — Паркер Моллой (@ParkerMolloy) 22 июня 2022 г.

Эмм, так как скоро преступники смогут использовать это, чтобы позвонить вашим родственникам и попросить их перевести деньги? Или спросить их о номерах социального страхования? Или банковской информации? — ?bitty_in_pink ? (@bitty_in_pink) 22 июня 2022 г.