Gemini AI поймали за сканированием документов Google Drive без разрешения пользователей

Служба искусственного интеллекта Gemini AI от Google, по всей видимости, читала частные документы Google Drive без получения явного разрешения пользователя, согласно шокирующему заявлению старшего советника по управлению ИИ и пользователя X Кевина Банкстера (через Tom’s Hardware).

Обновлено с ответом Google:

Google опроверг такие утверждения. Представитель Google связался с techworm и сказал:

“Наши функции генеративного ИИ разработаны так, чтобы предоставить пользователям выбор и сохранить контроль над их данными. Использование Gemini в Google Workspace требует от пользователя активировать его, и когда они это делают, их контент используется в режиме сохранения конфиденциальности для генерации полезных ответов на их запросы, но в противном случае не хранится без разрешения.”

“В данном случае, похоже, что пользователь ранее использовал Gemini через боковую панель в Google Drive для PDF и хотел больше не делать этого, что можно просто сделать, закрыв боковую панель.”

Заявления пользователей до комментария Google следующие:

Кевин сказал, что после открытия документа налоговой декларации в формате PDF в Google Docs, Gemini AI сразу же предоставил резюме его налогов, даже не запрашивая никакой информации или не прося ИИ сделать это.

При дальнейшем расследовании было установлено, что проблема затрагивала только PDF.

Я только что открыл свою налоговую декларацию в @Google Docs — и без запроса Gemini резюмировал ее. Так что… Gemini автоматически поглощает даже частные документы, которые я открываю в Google Docs? Какого черта, ребята. Я не просил об этом. Теперь мне нужно найти новые настройки, о которых мне никогда не говорили, чтобы отключить эту ерунду. — Кевин Банкстон (@KevinBankston) 10 июля 2024 года

Хотя настройки конфиденциальности, которые используются для информирования Gemini, должны были быть общедоступными, они не были.

Кевин в конечном итоге смог найти правильную настройку с помощью другого пользователя X, только чтобы его удивить, что опция уже была отключена для Gmail, Google Docs и Google Drive.

Это означало, что Gemini AI не должен был получать доступ к документам в Gmail, Google Docs и Google Drive и резюмировать их.

Кроме того, переключатель настроек находился в совершенно другом месте, чем то, куда изначально направил его бот Gemini.

“ИИ либо “галлюцинирует (лжет)”, либо некоторые внутренние системы на серверах Google просто не работают. В любом случае, это не очень хороший вид, даже если эти частные данные якобы не используются для обучения Gemini AI,” — написал Кевин о неожиданном взаимодействии с ИИ-помощником в своем аккаунте X.

Кевин считает, что проблема могла возникнуть из-за активации Google Workspace Labs, на которые он зарегистрировался в 2023 году, что могло превышать предполагаемые настройки Gemini AI.

Тем не менее, в последующем твите он поделился, как отключить Gemini от чтения данных на Google Drive, отключив расширения Gemini.

Спасибо @missmwilliams! Настройка действительно существует (хотя и не там, где сказал Gemini). Но суть в следующем твите… https://t.co/t5kPvIP6vp — Кевин Банкстон (@KevinBankston) 10 июля 2024 года

Google упоминает в блоге, как они защищают данные Google Workspace в эпоху генеративного ИИ.

Они не используют данные Workspace для обучения или улучшения базового генеративного ИИ и больших языковых моделей, которые управляют Bard [теперь Gemini], Поиском и другими системами вне Workspace без разрешения.