ジェミニAIがユーザーの許可なしにGoogleドライブの文書をスキャンしていることが発覚

Googleの社内人工知能サービス、ジェミニAIが、ユーザーの明示的な許可を得ることなくプライベートなGoogleドライブの文書を読み取っていることが、AIガバナンスのシニアアドバイザーであるKevin Bankster（Tom’s Hardware経由）の衝撃的な暴露によって明らかになりました。

Googleの反応を更新：

Googleはそのような主張を否定しました。Googleの広報担当者はtechwormに連絡し、次のように述べました。

「私たちの生成AI機能は、ユーザーに選択肢を提供し、データの管理を維持するように設計されています。Google Workspaceでジェミニを使用するには、ユーザーが積極的にそれを有効にする必要があり、その際にコンテンツはプライバシーを保護する方法で使用され、役立つ応答を生成しますが、許可なしに保存されることはありません。」

「この場合、ユーザーは以前にGoogleドライブのサイドパネルを介してPDF用のジェミニを使用しており、もはやそうしたくないと考えていたようです。これはサイドパネルを閉じることで簡単に行えます。」

Googleのコメント前のユーザーの主張は以下の通りです：

Kevinは、Google Docsで税務申告書のPDFを開いた後、ジェミニAIが何の情報も与えず、AIにそうするように頼むこともなく、すぐに彼の税金の要約を提供したと述べました。

さらに調査したところ、問題はPDFにのみ影響を及ぼしていることが判明しました。

@Google Docsで税務申告書を開いたら、無断でジェミニが要約を提供しました。つまり…ジェミニは私がGoogle Docsで開くプライベートな文書を自動的に取り込んでいるのですか？なんでこんなことが起こるの？私はこれを頼んでいません。今、私はこのクソをオフにするために、教えられたことのない新しい設定を見つけなければなりません。 — Kevin Bankston (@KevinBankston) 2024年7月10日

ジェミニに通知するために使用されるプライバシー設定は公開されているべきでしたが、そうではありませんでした。

Kevinは最終的に、別のXユーザーの助けを借りて正しい設定を見つけることができましたが、そのオプションはすでにGmail、Google Docs、Google Driveのために無効になっていることに驚きました。

これは、ジェミニAIがGmail、Google Docs、Google Driveの文書にアクセスして要約するべきではないことを意味していました。

また、設定のスイッチは、ジェミニのボットが最初に彼を導いた場所とはまったく異なる場所にありました。

「AIは「幻覚を見ている（嘘をついている）」か、Googleのサーバー上の内部システムが完全に故障しているかのどちらかです。どちらにしても、これはあまり良い印象ではありません。たとえこのプライベートデータがジェミニAIのトレーニングに使用されていないとしても。」とKevinは、彼のXアカウントでAIアシスタントとの驚くべきやり取りについて書きました。

Kevinは、問題は2023年に登録したGoogle Workspace Labsの有効化によって引き起こされた可能性があると考えており、それが意図されたジェミニAIの設定を上書きしている可能性があります。

しかし、その後のツイートで、彼はジェミニ拡張機能をオフにすることでGoogleドライブのデータを読むのを無効にする方法を共有しました。

ありがとう@missmwilliams！設定は存在します（ただし、ジェミニが言った場所にはありません）。しかし、オチは次のツイートにあります… https://t.co/t5kPvIP6vp — Kevin Bankston (@KevinBankston) 2024年7月10日

Googleは、生成AIの時代におけるGoogle Workspaceデータの保護方法についてブログ投稿で言及しています。

彼らは、Workspaceデータを許可なしにBard [現在のジェミニ]、検索、その他のWorkspace外のシステムをトレーニングまたは改善するために使用しません。