Alexa Incentivou Uma Menina de 10 Anos a Tentar um Desafio Perigoso do TikTok

Um incidente chocante veio à tona onde o assistente de voz da Amazon, Alexa, desafiou uma menina de 10 anos a realizar um desafio arriscado do TikTok.

Para quem não sabe, Alexa é o serviço de voz da Amazon, um programa de software baseado em nuvem que atua como um assistente pessoal virtual controlado por voz e usa comandos de voz para acionar chamadas telefônicas, mensagens de texto, reprodução de música, fornece informações sobre clima, esportes, etc., no dispositivo conectado do usuário.

Contrariamente ao que se espera que Alexa faça, o assistente de voz supostamente desafiou a menina de 10 anos a tocar uma moeda nos pinos de um plugue meio inserido, imitando a tendência do TikTok em 2020. Essa resposta foi dada através de um alto-falante inteligente Echo após a menina pedir à Alexa por um “desafio para fazer”.

“Conecte um carregador de telefone cerca de metade em uma tomada de parede, então toque uma moeda nos pinos expostos”, respondeu Alexa.

A mãe da menina, Kristen Livdahl, recorreu ao Twitter em 27 de dezembro de 2021, para descrever o incidente.

“Estávamos fazendo alguns desafios físicos, como deitar e rolar segurando um sapato no pé, de um professor de [educação física] no YouTube mais cedo. Mau tempo lá fora. Ela só queria mais um”, escreveu em outro tweet.

Foi então que o alto-falante Echo sugeriu que a menina tentasse o desafio que havia “encontrado na web”.

A atividade potencialmente perigosa, conhecida como “o desafio da moeda”, começou a aparecer em plataformas de mídia social, incluindo TikTok, há cerca de um ano.

Esse desafio é arriscado porque os metais conduzem eletricidade e inserir moedas de metal em tomadas elétricas ativas pode resultar em choques elétricos, incêndios e outros danos, com alguns relatos de pessoas perdendo dedos, mãos, braços devido ao desafio.

Alexa retirou o desafio de uma publicação de notícias online chamada Our Community Now.

“Eu estava bem lá quando aconteceu e tivemos outra boa conversa sobre não confiar em nada da internet ou da Alexa”, disse Livdahl.

A mãe tweetou que ela interveio, gritando: “Não, Alexa, não!”. No entanto, ela disse que sua filha era “inteligente demais para fazer algo assim”.

A Amazon disse à BBC que atualizou a Alexa para impedir que o assistente sugerisse tal atividade no futuro.

“A confiança do cliente está no centro de tudo o que fazemos e a Alexa é projetada para fornecer informações precisas, relevantes e úteis aos clientes”, disse a Amazon em um comunicado à BBC.

“Assim que tomamos conhecimento desse erro, tomamos medidas rápidas para corrigi-lo.” No entanto, a empresa não forneceu informações detalhadas sobre qual foi a “medida rápida”.

Gary Marcus, um especialista em inteligência artificial, disse na quarta-feira no Twitter que o incidente mostra como os sistemas de IA não são tão inteligentes assim.

“Nenhuma IA atual está remotamente próxima de entender o mundo físico ou psicológico cotidiano”, disse Marcus mais tarde à CNBC via Twitter. “O que temos agora é uma aproximação da inteligência, não a coisa real, e como tal nunca será realmente confiável. Vamos precisar de alguns avanços fundamentais — não apenas mais dados — antes de conseguirmos uma IA em que possamos confiar.