Gemini AI atrapado escaneando documentos de Google Drive sin el permiso de los usuarios

El servicio de inteligencia artificial interno de Google, Gemini AI, aparentemente ha estado leyendo documentos privados de Google Drive sin obtener el permiso explícito del usuario, según una revelación impactante hecha por un Asesor Senior en Gobernanza de IA y usuario de X, Kevin Bankster (a través de Tom’s Hardware).

Actualizado con la respuesta de Google:

Google ha negado tales afirmaciones. Un portavoz de Google se comunicó con techworm y dijo,

“Nuestras funciones de IA generativa están diseñadas para dar a los usuarios opciones y mantenerlos en control de sus datos. Usar Gemini en Google Workspace requiere que un usuario lo habilite proactivamente, y cuando lo hace, su contenido se utiliza de manera que preserva la privacidad para generar respuestas útiles a sus solicitudes, pero no se almacena de otra manera sin permiso.”

“En este caso, parece que el usuario estaba utilizando previamente Gemini a través del panel lateral en Google Drive para PDFs y deseaba dejar de hacerlo, lo cual se puede hacer simplemente cerrando el panel lateral.”

Las afirmaciones del usuario antes del comentario de Google son las siguientes:

Kevin dijo que después de abrir un documento de declaración de impuestos como PDF en Google Docs, la IA de Gemini proporcionó un resumen de sus impuestos de inmediato sin siquiera dar ninguna información o pedirle a la IA que lo hiciera.

Tras una investigación más profunda, se descubrió que el problema solo afectaba a los PDFs.

Acabo de abrir mi declaración de impuestos en @Google Docs—y sin que se lo pidiera, Gemini la resumió. Entonces… ¿Gemini está ingiriendo automáticamente incluso los documentos privados que abro en Google Docs? WTF, chicos. No pedí esto. Ahora tengo que buscar nuevas configuraciones de las que nunca me dijeron para desactivar esta porquería. — Kevin Bankston (@KevinBankston) 10 de julio de 2024

Mientras que las configuraciones de privacidad que se utilizan para informar a Gemini deberían haber estado disponibles públicamente, no lo estaban.

Kevin finalmente pudo encontrar la configuración correcta con la ayuda de otro usuario de X, solo para su sorpresa al descubrir que la opción ya estaba desactivada para Gmail, Google Docs y Google Drive.

Esto significaba que Gemini AI no debería estar accediendo a los documentos en Gmail, Google Docs y Google Drive y resumiéndolos.

Además, el interruptor de configuración estaba en una ubicación completamente diferente de donde el bot de Gemini inicialmente lo había dirigido.

“La IA está ‘alucinando (mintiendo)’ o algunos sistemas internos en los servidores de Google están fallando. De cualquier manera, no es una buena apariencia, incluso si supuestamente estos datos privados no se utilizan para entrenar a la IA de Gemini,” escribió Kevin sobre la sorprendente interacción con el asistente de IA en su cuenta de X.

Kevin cree que el problema puede haber sido causado por la habilitación de Google Workspace Labs a la que se había registrado en 2023, lo que podría estar reemplazando la configuración de IA de Gemini prevista.

Sin embargo, en un tweet posterior, compartió cómo desactivar Gemini para que no lea datos en Google Drive desactivando las extensiones de Gemini.

¡Gracias @missmwilliams! La configuración sí existe (aunque no donde dijo Gemini). Pero el remate está en el siguiente tweet… https://t.co/t5kPvIP6vp — Kevin Bankston (@KevinBankston) 10 de julio de 2024

Google menciona en una publicación de blog cómo protegen los datos de Google Workspace en la era de la era generativa.

No utilizan los datos de Workspace para entrenar o mejorar la IA generativa subyacente y los modelos de lenguaje grande que alimentan Bard [ahora Gemini], Búsqueda y otros sistemas fuera de Workspace sin permiso.