Alexa forderte ein 10-jähriges Mädchen auf, eine gefährliche TikTok-Herausforderung auszuprobieren

Ein schockierender Vorfall wurde bekannt, bei dem Amazons Sprach-KI-Assistentin Alexa ein 10-jähriges Mädchen herausforderte, eine lebensgefährliche TikTok-Herausforderung durchzuführen.

Für diejenigen, die es nicht wissen: Alexa ist Amazons Sprachdienst, ein cloudbasiertes Softwareprogramm, das als sprachgesteuerter virtueller persönlicher Assistent fungiert und Sprachbefehle verwendet, um Anrufe, Textnachrichten, Musikwiedergabe auszulösen und Informationen über Wetter, Sport usw. auf dem verbundenen Gerät des Nutzers bereitzustellen.

Entgegen dem, was Alexa tun sollte, forderte der Sprachassistent Berichten zufolge das 10-jährige Mädchen auf, eine Münze an die Stifte eines halb eingesteckten Steckers zu halten, was den TikTok-Trend von 2020 nachahmte. Diese Antwort wurde über einen Echo-Smart-Lautsprecher gegeben, nachdem das Mädchen Alexa nach einer „Herausforderung“ gefragt hatte.

„Stecke ein Telefonladegerät etwa halb in eine Wandsteckdose, und berühre dann einen Cent mit den freiliegenden Stiften“, antwortete Alexa.

Die Mutter des Mädchens, Kristen Livdahl, wandte sich am 27. Dezember 2021 über Twitter an die Öffentlichkeit, um den Vorfall zu beschreiben.

„Wir haben einige körperliche Herausforderungen gemacht, wie sich hinlegen und mit einem Schuh am Fuß umdrehen, von einem [Sportunterricht] Lehrer auf YouTube früher. Schlechtes Wetter draußen. Sie wollte einfach noch eine“, schrieb sie in einem weiteren Tweet.

Da schlug der Echo-Lautsprecher dem Mädchen vor, die Herausforderung zu versuchen, die es „im Internet gefunden hatte“.

Die potenziell gefährliche Aktivität, bekannt als „die Cent-Herausforderung“, begann vor etwa einem Jahr auf sozialen Medienplattformen, einschließlich TikTok, aufzutauchen.

Diese Herausforderung ist lebensgefährlich, da Metalle Elektrizität leiten und das Einführen von Metallmünzen in aktive Steckdosen zu Stromschlägen, Bränden und anderen Schäden führen kann, wobei einige Berichte von Menschen berichten, die aufgrund der Herausforderung Finger, Hände oder Arme verloren haben.

Alexa zog die Herausforderung aus einer Online-Nachrichtenseite namens Our Community Now.

„Ich war direkt dabei, als es passierte, und wir hatten ein weiteres gutes Gespräch darüber, nichts aus dem Internet oder von Alexa zu vertrauen“, sagte Livdahl.

Die Mutter tweetete, dass sie intervenierte und rief: „Nein, Alexa, nein!“. Sie sagte jedoch, ihre Tochter sei „zu schlau, um so etwas zu tun“.

Amazon teilte der BBC mit, dass es Alexa aktualisiert habe, um zu verhindern, dass der Assistent in Zukunft solche Aktivitäten vorschlägt.

„Das Vertrauen der Kunden steht im Mittelpunkt unseres Handelns, und Alexa ist so konzipiert, dass sie den Kunden genaue, relevante und hilfreiche Informationen bereitstellt“, sagte Amazon in einer Erklärung gegenüber der BBC.

„Sobald wir von diesem Fehler erfuhren, haben wir schnell gehandelt, um ihn zu beheben.“ Das Unternehmen gab jedoch keine detaillierten Informationen darüber, was die „schnellen Maßnahmen“ waren.

Gary Marcus, ein Experte für künstliche Intelligenz, sagte am Mittwoch auf Twitter, dass der Vorfall zeigt, wie KI-Systeme letztendlich doch nicht so intelligent sind.

„Keine aktuelle KI ist auch nur annähernd in der Lage, die alltägliche physische oder psychologische Welt zu verstehen“, sagte Marcus später gegenüber CNBC über Twitter. „Was wir jetzt haben, ist eine Annäherung an Intelligenz, nicht das echte Ding, und daher wird es niemals wirklich vertrauenswürdig sein. Wir werden einige grundlegende Fortschritte benötigen – nicht nur mehr Daten – bevor wir zu einer KI gelangen, der wir vertrauen können.