Алекса побудила 10-летнюю девочку попробовать опасный челлендж в TikTok

Шокирующий инцидент стал известен, когда голосовой AI-ассистент Amazon, Алекса, бросила вызов 10-летней девочке выполнить рискованный челлендж в TikTok.

Для тех, кто не в курсе, Алекса — это голосовая служба Amazon, облачная программа, которая действует как голосовой виртуальный персональный ассистент и использует голосовые команды для вызова телефонных звонков, текстовых сообщений, воспроизведения музыки, предоставляет информацию о погоде, спорте и т.д. на подключенном устройстве пользователя.

Вопреки тому, что должна делать Алекса, голосовой ассистент, как сообщается, предложила 10-летней девочке прикоснуться монетой к контактам наполовину вставленной вилки, имитируя тренд TikTok 2020 года. Этот ответ был дан через умный динамик Echo после того, как девочка попросила Алексу о «вызове для выполнения».

«Вставьте зарядное устройство для телефона примерно наполовину в розетку, затем прикоснитесь пенни к открытым контактам», — ответила Алекса.

Мать девочки, Кристен Ливдаль, написала в Twitter 27 декабря 2021 года, чтобы описать инцидент.

«Мы выполняли некоторые физические задания, такие как лежание и переворачивание с обувью на ноге, от учителя [физкультуры] на YouTube ранее. Плохая погода на улице. Она просто хотела еще один», — написала она в другом твите.

Вот тогда динамик Echo предложил девочке попытаться выполнить челлендж, который он «нашел в интернете».

Эта потенциально опасная активность, известная как «челлендж с пенни», начала появляться на социальных платформах, включая TikTok, около года назад.

Этот челлендж рискован для жизни, потому что металлы проводят электричество, и вставка металлических монет в электрические розетки может привести к электрическим ударам, пожарам и другим повреждениям, с некоторыми сообщениями о том, что люди теряли пальцы, руки, руки из-за челленджа.

Алекса нашла челлендж в онлайн-издании под названием Our Community Now.

«Я была рядом, когда это произошло, и у нас был еще один хороший разговор о том, что не стоит доверять ничему из интернета или Алексе», — сказала Ливдаль.

Мать написала в Twitter, что вмешалась, закричав: «Нет, Алекса, нет!». Однако она сказала, что ее дочь «слишком умна, чтобы делать что-то подобное».

Amazon сообщила BBC, что обновила Алексу, чтобы предотвратить предложения подобной активности в будущем.

«Доверие клиентов — это основа всего, что мы делаем, и Алекса предназначена для предоставления точной, актуальной и полезной информации клиентам», — заявила Amazon в своем заявлении для BBC.

«Как только мы узнали об этой ошибке, мы быстро предприняли меры для ее исправления». Однако компания не предоставила никаких подробностей о том, что именно было сделано.

Гэри Маркус, эксперт в области искусственного интеллекта, сказал в среду в Twitter, что инцидент показывает, насколько системы ИИ на самом деле не так умны.

«Никакой современный ИИ даже близко не понимает повседневный физический или психологический мир», — позже сказал Маркус CNBC через Twitter. «То, что у нас есть сейчас, — это приближение к интеллекту, а не реальный интеллект, и, как таковой, он никогда не будет действительно надежным. Нам понадобятся некоторые фундаментальные достижения — не просто больше данных — прежде чем мы сможем получить ИИ, которому можно доверять.»