Gemini AI surpris en train de scanner des documents Google Drive sans la permission des utilisateurs

Le service d’intelligence artificielle interne de Google, Gemini AI, aurait apparemment lu des documents privés de Google Drive sans obtenir la permission explicite de l’utilisateur, selon une révélation choquante faite par un conseiller senior sur la gouvernance de l’IA et utilisateur de X, Kevin Bankster (via Tom’s Hardware).

Mis à jour avec la réponse de Google :

Google a nié de telles allégations. Un porte-parole de Google a contacté techworm et a déclaré :

“Nos fonctionnalités d’IA générative sont conçues pour donner aux utilisateurs le choix et les garder en contrôle de leurs données. Utiliser Gemini dans Google Workspace nécessite qu’un utilisateur l’active de manière proactive, et lorsqu’il le fait, son contenu est utilisé de manière à préserver la vie privée pour générer des réponses utiles à ses demandes, mais n’est pas autrement stocké sans permission.”

“Dans ce cas, il semble que l’utilisateur utilisait auparavant Gemini via le panneau latéral dans Google Drive pour les PDF et souhaitait ne plus le faire, ce qui peut simplement être fait en fermant le panneau latéral.”

Les réclamations des utilisateurs avant le commentaire de Google sont les suivantes :

Kevin a déclaré qu’après avoir ouvert un document de déclaration de revenus en tant que PDF dans Google Docs, l’IA Gemini a immédiatement fourni un résumé de ses impôts sans même donner d’informations ou demander à l’IA de le faire.

Après enquête, il a été constaté que le problème n’affectait que les PDF.

Je viens d’ouvrir ma déclaration de revenus dans @Google Docs – et sans y être invité, Gemini l’a résumé. Donc… Gemini ingère automatiquement même les documents privés que j’ouvre dans Google Docs ? WTF, les gars. Je n’ai pas demandé ça. Maintenant, je dois aller chercher de nouveaux paramètres dont je n’ai jamais été informé pour désactiver cette merde. — Kevin Bankston (@KevinBankston) 10 juillet 2024

Bien que les paramètres de confidentialité qui sont utilisés pour informer Gemini auraient dû être publiquement disponibles, ils ne l’étaient pas.

Kevin a finalement pu trouver le bon paramètre avec l’aide d’un autre utilisateur de X, seulement pour sa surprise que l’option était déjà désactivée pour Gmail, Google Docs et Google Drive.

Cela signifiait que Gemini AI ne devrait pas accéder aux documents dans Gmail, Google Docs et Google Drive et les résumer.

De plus, le commutateur de paramètres était dans un endroit complètement différent de celui où le bot de Gemini l’avait initialement dirigé.

“L’IA est soit en train de ‘halluciner (mentir)’, soit certains systèmes internes sur les serveurs de Google fonctionnent mal. Quoi qu’il en soit, ce n’est pas une bonne image, même si ces données privées ne sont soi-disant pas utilisées pour entraîner l’IA Gemini,” a écrit Kevin à propos de l’interaction surprenante avec l’assistant IA sur son compte X.

Kevin pense que le problème pourrait avoir été causé par l’activation des Google Workspace Labs auxquels il s’était inscrit en 2023, ce qui pourrait remplacer les paramètres prévus de l’IA Gemini.

Cependant, dans un tweet ultérieur, il a partagé comment désactiver Gemini pour qu’il ne lise pas les données sur Google Drive en désactivant les extensions Gemini.

Merci @missmwilliams ! Le paramètre existe (bien qu’il ne soit pas là où Gemini a dit). Mais la chute est dans le tweet suivant… https://t.co/t5kPvIP6vp — Kevin Bankston (@KevinBankston) 10 juillet 2024

Google mentionne dans un article de blog comment ils protègent les données de Google Workspace à l’ère de l’IA générative.

Ils n’utilisent pas les données de Workspace pour entraîner ou améliorer l’IA générative sous-jacente et les grands modèles de langage qui alimentent Bard [maintenant Gemini], la recherche et d’autres systèmes en dehors de Workspace sans permission.