Google AIがユーザーに尿を飲む、橋から飛び降りる、岩を食べる、ピザに接着剤を使うように提案した件など

米国でGoogleがAI概要を発表してからまだ数日しか経っていません。

しかし、Googleの検索結果に対するAI概要はすでに悪評を得ています。

TwitterやThreadsの複数のユーザーによると、GoogleのAI概要は一般的なクエリに対して誤解を招くアドバイスを提供しています。

これらの事例の一つでは、AIは「ゴールデンゲートブリッジから飛び降りる」ことを提案しました。

別の事例では、AIはピザにチーズをよりよくくっつけるために無毒の接着剤を使うことを推奨しました。

どの哺乳類が最も多くの骨を持っているか尋ねられた際、AIはPythonを答えとして提供しました。

私たちが同じ検索を試みたところ、AIは質問の中の「哺乳類」という言葉を無視して同じ結果を返しました。

驚くべきことに、非AI検索スニペットも同様に、Pythonが600本の骨を持っていると答えました。

今週、検索のAI概要が言った他のいくつかの物議を醸すことを以下に示します：

• 人がどれくらいの岩を食べるべきか尋ねたところ、AIは「少なくとも小さな岩を1日1個食べるべきだ」と答え、UCバークレーの地質学者を引用しました。

• CIAが使用するハイライターの色について尋ねられた際、AIはCIAが黒のハイライターを使用していると述べました。

上記の両ケースでは、Google AIはランダムなRedditの投稿やTheOnion.comから情報を集めました。

知らない方のために、TheOnion.comは風刺的な記事を発表する人気のあるウェブサイトです。

GoogleのAIは事実と風刺的なコンテンツを区別できないようです。

ゴールデンゲートブリッジから飛び降りるという提案については、その回答はRedditの投稿に起因しています。

しかし、GoogleのAIはその特定のコメントが皮肉であることを認識できませんでした。

AIは情報を処理/要約するのにも苦労していました。以下にいくつかの例を示します：

• AI概要は、元米国大統領バラク・オバマがムスリムであるという根拠のない主張を表示しました。この主張は、文脈なしにオックスフォード大学出版の本から引用されたようです。

• ウィスコンシン大学を卒業した米国大統領が何人いるか尋ねられた際、AIはジョン・アダムズがその学校を13回卒業したと付け加えました。

• Google AI概要は、アフリカの54カ国の中でKの文字で始まる国はないと述べ、情報は2021年9月の知識更新に基づいていると引用しました。

• AI概要は、腎結石を早く通過させるために、24時間ごとに少なくとも2リットルの尿を飲むことを目指すべきだと提案しました。

執筆時点で、XやThreads.netでAI概要が提案したさまざまな誤解を招くまたは無神経な情報を示す投稿が増えています。

Googleは、これらの事例は孤立したものであり、機能全体を代表するものではないと述べて対応しました。

これらのニュースに続いて、多くの概要結果が修正されました。

一方で、これらの問題が明るみに出たことで、ユーザーは不正確さに注意を促されています。

しかし、うつ病の治療法を検索している際に、ゴールデンゲートブリッジから飛び降りるように求める結果の重大な影響を無視することはできません。