Gemini AI Pegos em Documentos do Google Drive Sem Permissão dos Usuários

O serviço de inteligência artificial interno do Google, Gemini AI, aparentemente tem lido documentos privados do Google Drive sem obter a permissão explícita do usuário, de acordo com uma revelação chocante feita por um Conselheiro Sênior em Governança de IA e usuário do X, Kevin Bankster (via Tom’s Hardware).

Atualizado com a resposta do Google:

O Google negou tais alegações. Um porta-voz do Google entrou em contato com o techworm e disse,

“Nossas funcionalidades de IA generativa são projetadas para dar aos usuários escolha e mantê-los no controle de seus dados. Usar o Gemini no Google Workspace requer que o usuário o ative proativamente, e quando o faz, seu conteúdo é utilizado de maneira a preservar a privacidade para gerar respostas úteis aos seus comandos, mas não é armazenado de outra forma sem permissão.”

“Neste caso, parece que o usuário estava usando anteriormente o Gemini através do painel lateral no Google Drive para PDFs e desejava não fazer mais isso, o que pode ser feito simplesmente fechando o painel lateral.”

As alegações do usuário antes do comentário do Google são as seguintes:

Kevin disse que, após abrir um documento de declaração de impostos como PDF no Google Docs, o Gemini AI forneceu um resumo de seus impostos imediatamente, sem sequer dar qualquer informação ou pedir ao AI para fazê-lo.

Após uma investigação mais aprofundada, descobriu-se que o problema afetava apenas PDFs.

Acabei de abrir minha declaração de impostos no @Google Docs – e sem ser solicitado, o Gemini a resumiu. Então… o Gemini está ingerindo automaticamente até os documentos privados que abro no Google Docs? Que droga, pessoal. Eu não pedi por isso. Agora eu tenho que encontrar novas configurações que nunca me disseram para desligar essa porcaria. — Kevin Bankston (@KevinBankston) 10 de julho de 2024

Enquanto as configurações de privacidade que são usadas para informar o Gemini deveriam ter estado publicamente disponíveis, elas não estavam.

Kevin conseguiu eventualmente encontrar a configuração correta com a ajuda de outro usuário do X, apenas para sua surpresa ao descobrir que a opção já estava desativada para Gmail, Google Docs e Google Drive.

Isso significava que o Gemini AI não deveria estar acessando os documentos no Gmail, Google Docs e Google Drive e resumindo-os.

Além disso, o interruptor de configurações estava em um local completamente diferente de onde o bot do Gemini inicialmente o havia direcionado.

“A IA está ‘alucinando (mentindo)’ ou alguns sistemas internos nos servidores do Google estão simplesmente com mau funcionamento. De qualquer forma, não é uma boa aparência, mesmo que esses dados privados supostamente não estejam sendo usados para treinar o Gemini AI,” escreveu Kevin sobre a interação surpreendente com o assistente de IA em sua conta do X.

Kevin acredita que o problema pode ter sido causado pela ativação dos Google Workspace Labs para os quais ele se registrou em 2023, o que poderia estar sobrepondo as configurações pretendidas do Gemini AI.

No entanto, em um tweet subsequente, ele compartilhou como desativar o Gemini para que não leia dados no Google Drive desativando as extensões do Gemini.

Obrigado @missmwilliams! A configuração existe (embora não onde o Gemini disse). Mas a piada está no próximo tweet… https://t.co/t5kPvIP6vp — Kevin Bankston (@KevinBankston) 10 de julho de 2024

O Google menciona em um post de blog como eles protegem os dados do Google Workspace na era da geração de IA.

Eles não usam dados do Workspace para treinar ou melhorar a IA generativa subjacente e os grandes modelos de linguagem que alimentam o Bard [agora Gemini], Pesquisa e outros sistemas fora do Workspace sem permissão.