아마존, 알렉사가 고인의 목소리를 흉내 내는 기능 시연

이보다 더 소름 끼치고 무서운 것은 없을 것입니다. 아마존은 수요일에 가상 비서 알렉사가 사용자의 고인 가족의 목소리를 흉내 낼 수 있는 새로운 기능을 시연했습니다. 네, 맞습니다!

회사는 라스베가스에서 열린 아마존의 Re: MARS(기계 학습, 자동화, 로봇 및 우주) 컨퍼런스에서 이 기능을 시연했습니다. 짧은 비디오 클립에서 한 소년이 알렉사에게 고인의 할머니 목소리로 “오즈의 마법사” 이야기를 읽어 달라고 요청하고 있습니다.

알렉사는 기본 로봇 음성으로 아이의 요청을 인식한 후, 즉시 더 부드럽고 인간적인 톤으로 전환하여 아이의 고인 할머니의 목소리를 흉내 내며 어린이 소설의 발췌를 내레이션합니다.

“이 경험에서 보셨듯이, 알렉사의 목소리가 책을 읽는 대신 아이의 할머니 목소리로 읽히고 있습니다.”라고 아마존의 알렉사 AI 수석 부사장 겸 수석 과학자인 로히트 프라사드가 말했습니다.

프라사드는 “많은 사람들이 사랑하는 사람을 잃은 이 팬데믹 시대에 AI 시스템에 ‘인간의 속성’을 추가하는 것이 점점 더 중요해지고 있다”고 클립을 소개했습니다.

“AI가 상실의 고통을 없앨 수는 없지만, 그들의 기억을 지속시키는 데 확실히 도움이 될 수 있습니다.”라고 그는 덧붙였습니다.

아래의 데모 비디오를 확인해 보세요:

알렉사 팀은 단 1분의 녹음만으로 들리는 누구의 목소리든 흉내 내도록 디지털 비서를 교육하고 있습니다.

회사는 이 기능을 COVID-19로 사랑하는 사람을 잃은 사람들에게 기억을 보존하는 방법으로 홍보하고 있습니다.

“이는 1분 미만의 녹음으로 고품질 목소리를 생성하는 방법을 배워야 하는 발명이 필요했습니다.”라고 프라사드는 컨퍼런스 중에 말했습니다.

“우리가 이를 실현한 방법은 음성 생성 경로가 아닌 음성 변환 작업으로 문제를 정의하는 것이었습니다. 우리는 꿈과 과학이 공존하는 AI의 황금 시대에 살고 있습니다.”

현재 이 새로운 기능은 개발 중이며, 아마존은 이 기능을 대중에게 언제 출시할 계획인지 공개하지 않았습니다. 알렉사의 목소리 모방 기능이 발표된 후, 일부는 이 기능이 사기꾼과 사이버 범죄자에 의해 악용될 수 있으며, 다른 사람의 동의 없이 목소리를 흉내 내는 데 사용될 수 있다는 우려를 표명하기 위해 트위터에 글을 올렸습니다.

당신은 절대 그렇게 하지 않을 것입니다. 우리가 딥페이크가 이 문화에서 이미 진행 중인 불신, 소외 및 인식 위기를 증가시킬 것이라고 말했을 때를 기억하십니까? 네, 그거죠. 그게 아주 많이 증가할 것입니다. “아마존은 알렉사가 누구의 목소리든 흉내 내도록 만들 계획이 있습니다 [그들의 동의 없이]” https://t.co/kXm4EXKgp8 — Damien P. Williams, MA, MSc, ABD, Patternist (@Wolven) 2022년 6월 22일

이 도구의 전화 공격 가능성은 전혀 좋지 않습니다 — 이는 아마도 사기 행위에 사용될 것입니다. 아마존의 re:MARS 컨퍼런스에서 그들은 사람의 목소리의 짧은 오디오 클립을 사용하여 더 긴 음성을 재프로그래밍하는 작업을 하고 있다고 발표했습니다. https://t.co/5TkEIHoeXG — Rachel Tobac (@RachelTobac) 2022년 6월 22일

“알렉사, 데스파시토 재생” 내 고인의 할머니 목소리, 로봇처럼: “아마존 뮤직에서 데스파시토 재생 중” https://t.co/D6BLQCafzj — Parker Molloy (@ParkerMolloy) 2022년 6월 22일

음, 범죄자들이 당신의 가족에게 전화를 걸어 돈을 보내달라고 부탁할 수 있는 것은 얼마나 빨리 이루어질까요? 아니면 그들에게 사회 보장 번호를 요청할까요? 아니면 은행 정보를 요청할까요? — ?bitty_in_pink ? (@bitty_in_pink) 2022년 6월 22일