Alexa animó a una niña de 10 años a intentar un peligroso desafío de TikTok

Un incidente impactante ha salido a la luz donde el asistente de voz de Amazon, Alexa, desafió a una niña de 10 años a realizar un desafío de TikTok que pone en riesgo la vida.

Para aquellos que no lo saben, Alexa es el servicio de voz de Amazon, un programa de software basado en la nube que actúa como un asistente personal virtual controlado por voz y utiliza comandos de voz para activar llamadas telefónicas, mensajes de texto, reproducción de música, proporciona información sobre el clima, deportes, etc., en el dispositivo conectado del usuario.

Contrario a lo que se supone que debe hacer Alexa, el asistente de voz supuestamente desafió a la niña de 10 años a tocar una moneda en los pines de un enchufe medio insertado imitando la tendencia de TikTok en 2020. Esta respuesta se dio a través de un altavoz inteligente Echo después de que la niña le pidió a Alexa un “desafío para hacer”.

“Conecta un cargador de teléfono aproximadamente a la mitad en un enchufe de pared, luego toca un centavo en los pines expuestos”, respondió Alexa.

La madre de la niña, Kristen Livdahl, recurrió a Twitter el 27 de diciembre de 2021 para describir el incidente.

“Estábamos haciendo algunos desafíos físicos, como acostarnos y rodar sosteniendo un zapato en el pie, de un [profesor de educación física] en YouTube anteriormente. Mal tiempo afuera. Ella solo quería otro”, escribió en otro tweet.

Fue entonces cuando el altavoz Echo sugirió a la niña intentar el desafío que había “encontrado en la web”.

La actividad potencialmente peligrosa, conocida como “el desafío del centavo”, comenzó a aparecer en plataformas de redes sociales, incluyendo TikTok, hace aproximadamente un año.

Este desafío pone en riesgo la vida porque los metales conducen electricidad e insertar monedas de metal en enchufes eléctricos en vivo puede resultar en descargas eléctricas, incendios y otros daños, con algunos informes de personas que han perdido dedos, manos, brazos debido al desafío.

Alexa sacó el desafío de una publicación de noticias en línea llamada Our Community Now.

“Estaba justo allí cuando sucedió y tuvimos otra buena conversación sobre no confiar en nada de internet o Alexa”, dijo Livdahl.

La madre tuiteó que intervino, gritando: “¡No, Alexa, no!”. Sin embargo, dijo que su hija era “demasiado inteligente para hacer algo así”.

Amazon le dijo a la BBC que había actualizado a Alexa para evitar que el asistente sugiriera tal actividad en el futuro.

“La confianza del cliente está en el centro de todo lo que hacemos y Alexa está diseñada para proporcionar información precisa, relevante y útil a los clientes”, dijo Amazon en un comunicado a la BBC.

“Tan pronto como nos enteramos de este error, tomamos medidas rápidas para solucionarlo.” Sin embargo, la compañía no proporcionó información detallada sobre cuál fue la “acción rápida”.

Gary Marcus, un experto en inteligencia artificial, dijo el miércoles en Twitter que el incidente muestra cómo los sistemas de IA no son tan inteligentes después de todo.

“Ninguna IA actual está remotamente cerca de entender el mundo físico o psicológico cotidiano”, dijo Marcus más tarde a CNBC a través de Twitter. “Lo que tenemos ahora es una aproximación a la inteligencia, no la real, y como tal nunca será realmente confiable. Vamos a necesitar algunos avances fundamentales — no solo más datos — antes de que podamos llegar a una IA en la que podamos confiar.