Gemini AI Caught Scanning Google Drive Documents Without Users’ Permission

Il servizio di intelligenza artificiale interno di Google, Gemini AI, sembra aver letto documenti privati di Google Drive senza ottenere il permesso esplicito dell’utente, secondo una rivelazione scioccante fatta da un Consigliere Senior sulla Governance dell’IA e utente di X Kevin Bankster (via Tom’s Hardware).

Aggiornato con la risposta di Google:

Google ha negato tali affermazioni. Un portavoce di Google ha contattato techworm e ha dichiarato,

“Le nostre funzionalità di IA generativa sono progettate per dare agli utenti scelta e mantenerli in controllo dei propri dati. Utilizzare Gemini in Google Workspace richiede che un utente lo abiliti proattivamente e, quando lo fa, il proprio contenuto viene utilizzato in modo da preservare la privacy per generare risposte utili ai propri input, ma non viene altrimenti memorizzato senza permesso.”

“In questo caso, sembra che l’utente stesse precedentemente utilizzando Gemini tramite il pannello laterale in Google Drive per i PDF e desiderasse non farlo più, il che può essere semplicemente fatto chiudendo il pannello laterale.”

Le affermazioni degli utenti prima del commento di Google sono le seguenti:

Kevin ha detto che dopo aver aperto un documento di dichiarazione dei redditi come PDF in Google Docs, Gemini AI ha fornito immediatamente un riepilogo delle sue tasse senza nemmeno dare alcuna informazione o chiedere all’IA di farlo.

Dopo ulteriori indagini, è stato scoperto che il problema riguardava solo i PDF.

Ho appena aperto la mia dichiarazione dei redditi in @Google Docs e, senza essere richiesto, Gemini l’ha riassunta. Quindi… Gemini sta ingerendo automaticamente anche i documenti privati che apro in Google Docs? Che diavolo, ragazzi. Non l’ho chiesto. Ora devo andare a trovare nuove impostazioni di cui non sono mai stato informato per disattivare questa roba. — Kevin Bankston (@KevinBankston) 10 luglio 2024

Sebbene le impostazioni sulla privacy utilizzate per informare Gemini avrebbero dovuto essere pubblicamente disponibili, non lo erano.

Kevin è stato infine in grado di trovare l’impostazione corretta con l’aiuto di un altro utente di X, solo per sua sorpresa che l’opzione era già disabilitata per Gmail, Google Docs e Google Drive.

Ciò significava che Gemini AI non avrebbe dovuto accedere ai documenti in Gmail, Google Docs e Google Drive e riassumerli.

Inoltre, l’interruttore delle impostazioni si trovava in una posizione completamente diversa rispetto a quella in cui il bot di Gemini lo aveva inizialmente indirizzato.

“L’IA sta o ‘hallucinando (mentendo)’ o alcuni sistemi interni sui server di Google stanno malfunzionando. In entrambi i casi, non è una bella situazione, anche se questi dati privati presumibilmente non vengono utilizzati per addestrare Gemini AI,” ha scritto Kevin riguardo all’interazione sorprendente con l’assistente AI sul suo account X.

Kevin crede che il problema possa essere stato causato dall’attivazione di Google Workspace Labs a cui si era registrato nel 2023, che potrebbe sovrascrivere le impostazioni previste di Gemini AI.

Tuttavia, in un tweet successivo, ha condiviso come disabilitare Gemini dalla lettura dei dati su Google Drive disattivando le estensioni di Gemini.

Grazie @missmwilliams! L’impostazione esiste (anche se non dove ha detto Gemini). Ma la punchline è nel tweet successivo… https://t.co/t5kPvIP6vp — Kevin Bankston (@KevinBankston) 10 luglio 2024

Google menziona in un post sul blog come proteggono i dati di Google Workspace nell’era dell’IA generativa.

Non utilizzano i dati di Workspace per addestrare o migliorare l’IA generativa sottostante e i modelli di linguaggio di grandi dimensioni che alimentano Bard [ora Gemini], Ricerca e altri sistemi al di fuori di Workspace senza permesso.