Google AI forderte Benutzer auf, Urin zu trinken, von einer Brücke zu springen, Steine zu essen, Kleber auf Pizza zu verwenden und mehr

Es sind erst ein paar Tage vergangen, seit Google die AI-Übersicht in den USA gestartet hat.

Dennoch hat die AI-Übersicht für Google-Suchergebnisse bereits einen schlechten Ruf erlangt.

Laut mehreren Nutzern auf Twitter und Threads hat die AI-Übersicht von Google irreführende Ratschläge für gängige Anfragen gegeben.

In einem dieser Fälle schlug die AI den Nutzern vor, “von der Golden Gate Bridge zu springen”, als jemand sagte, er sei depressiv.

In einem anderen Fall empfahl die AI, nicht-toxischen Kleber zu verwenden, um den Käse besser an der Pizza haften zu lassen.

Als gefragt wurde, welches Säugetier die meisten Knochen hat, gab die AI Python als Antwort.

Als wir die genaue Suche versuchten, gab sie dasselbe Ergebnis, indem sie das Wort ‘Säugetier’ in der Frage ignorierte.

Überraschenderweise macht das nicht-AI-Suchergebnis dasselbe und antwortet, dass Python mit 600 die meisten Knochen hat.

Hier sind einige andere kontroverse Dinge, die die AI-Übersicht in dieser Woche gesagt hat:

• Als eine Person fragte, wie viele Steine sie essen sollten, antwortete die AI, dass man mindestens einen kleinen Stein pro Tag essen sollte, unter Berufung auf Geologen der UC Berkeley.

• Als gefragt wurde, welche Farben von Markern die CIA verwendet, sagte die AI, dass die CIA schwarze Marker verwendet.

In beiden Fällen sammelte Google AI Informationen aus zufälligen Reddit-Beiträgen oder TheOnion.com.

Für diejenigen, die es nicht wissen, TheOnion.com ist eine beliebte Website, die satirische Artikel veröffentlicht.

Die AI von Google scheint nicht zwischen faktischen und satirischen Inhalten zu unterscheiden.

Was die Empfehlung betrifft, von der Golden Gate Bridge zu springen, wird das Ergebnis einem Reddit-Beitrag zugeschrieben.

Allerdings konnte die AI von Google nicht erkennen, dass der betreffende Kommentar sarkastisch gemeint war.

Die AI hatte auch Schwierigkeiten, Informationen aus Quellen zu verarbeiten/zuzusammenfassen. Hier sind einige Beispiele:

• Die AI-Übersicht brachte die unbegründete Behauptung auf, dass der ehemalige US-Präsident Barrack Obama Muslim sei. Es scheint, als hätte sie die Behauptung aus einem Buch der Oxford University Publications ohne Kontext entnommen.

• Als gefragt wurde, wie viele US-Präsidenten an der University of Wisconsin graduierte, fügte die AI hinzu, dass John Adams 13 Mal an der Schule graduierte.

• Google AI Übersicht stellte fest, dass keines der 54 Länder Afrikas mit dem Buchstaben K beginnt, und berief sich sogar darauf, dass die Informationen gemäß ihrem Wissensupdate von September 2021 stammen.

• AI-Übersichten schlugen vor, dass man versuchen sollte, mindestens zwei Liter Urin alle 24 Stunden zu trinken, um Nierensteine schnell zu passieren.

Zum Zeitpunkt des Schreibens tauchen immer mehr Beiträge auf X und Threads.net auf, die die verschiedenen irreführenden oder unsensiblen Informationen zeigen, die die AI-Übersicht vorgeschlagen hat.

Google hat geantwortet, dass diese Vorkommnisse isoliert sind und nicht die Funktion als Ganzes repräsentieren.

Nach diesen Nachrichten wurden viele dieser Übersichtsresultate korrigiert.

Einerseits werden die Nutzer, seit diese Probleme ins Rampenlicht gerückt wurden, über die Ungenauigkeiten gewarnt.

Allerdings kann man die gravierenden Folgen eines Ergebnisses, das eine Person auffordert, von der Golden Gate Bridge zu springen, wenn sie nach Heilmitteln für Depressionen sucht, nicht ignorieren.