Alexa a encouragé une fille de 10 ans à essayer un défi TikTok dangereux

Un incident choquant a été révélé où l’assistant vocal d’Amazon, Alexa, a défié une fille de 10 ans de réaliser un défi TikTok mettant sa vie en danger.

Pour ceux qui ne le savent pas, Alexa est le service vocal d’Amazon, un programme logiciel basé sur le cloud qui agit comme un assistant personnel virtuel contrôlé par la voix et utilise des commandes vocales pour déclencher des appels téléphoniques, des messages texte, la lecture de musique, fournit des informations sur la météo, le sport, etc., sur l’appareil connecté de l’utilisateur.

Contrairement à ce qu’Alexa est censée faire, l’assistant vocal a apparemment défié la fille de 10 ans de toucher une pièce de monnaie aux broches d’une prise à moitié insérée, imitant la tendance TikTok de 2020. Cette réponse a été donnée via un haut-parleur intelligent Echo après que la fille a demandé à Alexa un « défi à relever ».

« Branchez un chargeur de téléphone à moitié dans une prise murale, puis touchez un sou aux broches exposées », a répondu Alexa.

La mère de la fille, Kristen Livdahl, a pris Twitter le 27 décembre 2021 pour décrire l’incident.

« Nous faisions quelques défis physiques, comme s’allonger et se retourner en tenant une chaussure sur le pied, d’un [enseignant d’éducation physique] sur YouTube plus tôt. Mauvais temps dehors. Elle voulait juste un autre défi », a-t-elle écrit dans un autre tweet.

C’est à ce moment-là que le haut-parleur Echo a suggéré à la fille d’essayer le défi qu’il avait « trouvé sur le web ».

Cette activité potentiellement dangereuse, connue sous le nom de « défi du sou », a commencé à apparaître sur les plateformes de médias sociaux, y compris TikTok, il y a environ un an.

Ce défi est risqué pour la vie car les métaux conduisent l’électricité et insérer des pièces de monnaie en métal dans des prises électriques sous tension peut entraîner des chocs électriques, des incendies et d’autres dommages, avec certains rapports de personnes perdant des doigts, des mains, des bras à cause du défi.

Alexa a tiré le défi d’une publication d’actualités en ligne appelée Our Community Now.

« J’étais juste là quand cela s’est produit et nous avons eu une autre bonne conversation sur le fait de ne pas faire confiance à quoi que ce soit venant d’Internet ou d’Alexa », a déclaré Livdahl.

La mère a tweeté qu’elle avait intervenu, en criant : « Non, Alexa, non ! ». Cependant, elle a dit que sa fille était « trop intelligente pour faire quelque chose comme ça ».

Amazon a déclaré à la BBC qu’il avait mis à jour Alexa pour empêcher l’assistant de suggérer une telle activité à l’avenir.

« La confiance des clients est au centre de tout ce que nous faisons et Alexa est conçue pour fournir des informations précises, pertinentes et utiles aux clients », a déclaré Amazon dans un communiqué à la BBC.

« Dès que nous avons pris connaissance de cette erreur, nous avons agi rapidement pour la corriger. » Cependant, la société n’a pas fourni d’informations détaillées sur ce qu’était l’« action rapide ».

Gary Marcus, un expert en intelligence artificielle, a déclaré mercredi sur Twitter que l’incident montre à quel point les systèmes d’IA ne sont pas si intelligents après tout.

« Aucune IA actuelle n’est à proximité de comprendre le monde physique ou psychologique quotidien », a déclaré Marcus plus tard à CNBC via Twitter. « Ce que nous avons maintenant est une approximation de l’intelligence, pas la vraie chose, et en tant que telle, elle ne sera jamais vraiment fiable. Nous allons avoir besoin de certaines avancées fondamentales — pas seulement de plus de données — avant de pouvoir obtenir une IA à laquelle nous pouvons faire confiance.