Alexa ha incoraggiato una ragazza di 10 anni a provare una pericolosa sfida di TikTok

Un incidente scioccante è emerso dove l’assistente vocale AI di Amazon, Alexa, ha sfidato una ragazza di 10 anni a eseguire una sfida di TikTok a rischio per la vita.

Per chi non lo sapesse, Alexa è il servizio vocale di Amazon, un programma software basato su cloud che funge da assistente personale virtuale controllato vocalmente e utilizza comandi vocali per attivare chiamate telefoniche, messaggi di testo, riproduzione musicale, fornisce informazioni su meteo, sport, ecc., sul dispositivo connesso dell’utente.

Contrariamente a ciò che Alexa dovrebbe fare, l’assistente vocale ha apparentemente sfidato la ragazza di 10 anni a toccare una moneta con i prongs di una spina inserita a metà, mimando la tendenza di TikTok nel 2020. Questa risposta è stata data tramite un altoparlante intelligente Echo dopo che la ragazza ha chiesto ad Alexa un “challenge da fare”.

“Collega un caricabatterie per telefono a metà in una presa a muro, poi tocca un penny con i prongs esposti,” ha risposto Alexa.

La madre della ragazza, Kristen Livdahl, è intervenuta su Twitter il 27 dicembre 2021 per descrivere l’incidente.

“Stavamo facendo alcune sfide fisiche, come sdraiarsi e rotolare tenendo una scarpa sul piede, da un insegnante di [educazione fisica] su YouTube prima. C’era brutto tempo fuori. Voleva solo un’altra sfida,” ha scritto in un altro tweet.

È allora che l’altoparlante Echo ha suggerito alla ragazza di tentare la sfida che aveva “trovato sul web”.

L’attività potenzialmente pericolosa, nota come “la sfida del penny”, ha iniziato a comparire sulle piattaforme di social media, tra cui TikTok, circa un anno fa.

Questa sfida è a rischio per la vita perché i metalli conducono elettricità e inserire monete metalliche in prese elettriche attive può provocare scosse elettriche, incendi e altri danni, con alcuni rapporti di persone che hanno perso dita, mani, braccia a causa della sfida.

Alexa ha estratto la sfida da una pubblicazione di notizie online chiamata Our Community Now.

“Ero proprio lì quando è successo e abbiamo avuto un’altra buona conversazione su non fidarsi di nulla proveniente da internet o da Alexa,” ha detto Livdahl.

La madre ha twittato che è intervenuta, urlando: “No, Alexa, no!”. Tuttavia, ha detto che sua figlia era “troppo intelligente per fare qualcosa del genere”.

Amazon ha detto alla BBC che ha aggiornato Alexa per impedire all’assistente di suggerire tale attività in futuro.

“La fiducia dei clienti è al centro di tutto ciò che facciamo e Alexa è progettata per fornire informazioni accurate, pertinenti e utili ai clienti,” ha dichiarato Amazon in una nota alla BBC.

“Non appena siamo diventati a conoscenza di questo errore, abbiamo preso misure rapide per correggerlo.” Tuttavia, l’azienda non ha fornito alcuna informazione dettagliata su quali fossero le “misure rapide”.

Gary Marcus, un esperto di intelligenza artificiale, ha detto mercoledì su Twitter che l’incidente mostra quanto i sistemi di IA non siano così intelligenti dopo tutto.

“Nessuna IA attuale è minimamente vicina a comprendere il mondo fisico o psicologico quotidiano,” ha detto Marcus successivamente a CNBC tramite Twitter. “Quello che abbiamo ora è un’approssimazione all’intelligenza, non la cosa reale, e come tale non sarà mai veramente affidabile. Avremo bisogno di alcuni progressi fondamentali — non solo di più dati — prima di poter arrivare a un’IA di cui possiamo fidarci.