제미니 AI, 사용자 허가 없이 구글 드라이브 문서 스캔한 것으로 드러나

구글의 내부 인공지능 서비스인 제미니 AI가 사용자로부터 명시적인 허가를 받지 않고 개인 구글 드라이브 문서를 읽고 있었다는 충격적인 폭로가 AI 거버넌스의 수석 고문이자 X 사용자 케빈 뱅크스턴에 의해 밝혀졌습니다(톰스 하드웨어를 통해).

구글의 응답으로 업데이트됨:

구글은 이러한 주장을 부인했습니다. 구글 대변인은 테크웜에 연락하여 다음과 같이 말했습니다.

“우리의 생성 AI 기능은 사용자에게 선택권을 제공하고 데이터에 대한 통제를 유지하도록 설계되었습니다. 구글 워크스페이스에서 제미니를 사용하려면 사용자가 이를 적극적으로 활성화해야 하며, 그렇게 할 경우 그들의 콘텐츠는 유용한 응답을 생성하기 위해 개인 정보 보호 방식으로 사용되지만, 허가 없이 저장되지는 않습니다.”

“이번 경우에는 사용자가 구글 드라이브에서 PDF를 위해 사이드 패널을 통해 제미니를 이전에 사용하고 있었고, 더 이상 그렇게 하고 싶지 않았던 것으로 보입니다. 이는 사이드 패널을 닫음으로써 간단히 해결할 수 있습니다.”

구글의 댓글 이전 사용자 주장:

케빈은 구글 문서에서 세금 신고서를 PDF로 열었을 때, 제미니 AI가 아무런 정보도 제공하지 않고 요청도 없이 그의 세금 요약을 즉시 제공했다고 말했습니다.

추가 조사 결과, 이 문제는 PDF에만 영향을 미친 것으로 확인되었습니다.

@Google Docs에서 세금 신고서를 열었는데, 요청도 없이 제미니가 요약했습니다. 그러니까… 제미니가 내가 구글 문서에서 여는 개인 문서조차 자동으로 수집하고 있다는 건가요? 이게 무슨 일이죠, 여러분. 나는 이걸 요청하지 않았습니다. 이제 이 쓰레기를 끄기 위해 내가 전혀 알지 못했던 새로운 설정을 찾아야 합니다. — 케빈 뱅크스턴 (@KevinBankston) 2024년 7월 10일

제미니에 정보를 제공하는 데 사용되는 개인 정보 보호 설정은 공개되어야 했지만, 그렇지 않았습니다.

케빈은 결국 다른 X 사용자의 도움으로 올바른 설정을 찾을 수 있었지만, 그 옵션이 이미 Gmail, 구글 문서 및 구글 드라이브에 대해 비활성화되어 있다는 사실에 놀랐습니다.

이는 제미니 AI가 Gmail, 구글 문서 및 구글 드라이브의 문서에 접근하여 요약해서는 안 된다는 것을 의미했습니다.

또한, 설정 스위치는 제미니의 봇이 처음에 그를 안내한 위치와는 전혀 다른 곳에 있었습니다.

“AI가 ‘환각을 보고 있다(거짓말하고 있다)’거나 구글 서버의 내부 시스템이 완전히 오작동하고 있는 것입니다. 어쨌든, 이 개인 데이터가 제미니 AI를 훈련하는 데 사용되지 않는다고 해도 좋지 않은 모습입니다.”라고 케빈은 그의 X 계정에서 AI 어시스턴트와의 놀라운 상호작용에 대해 썼습니다.

케빈은 이 문제가 그가 2023년에 등록한 구글 워크스페이스 실험실을 활성화한 것 때문에 발생했을 수 있다고 믿고 있으며, 이는 의도된 제미니 AI 설정을 초월할 수 있습니다.

그러나 이후 트윗에서 그는 제미니 확장을 끄는 방법을 공유했습니다.

@missmwilliams 감사합니다! 설정이 존재합니다(비록 제미니가 말한 곳은 아닙니다). 하지만 결말은 다음 트윗에 있습니다… https://t.co/t5kPvIP6vp — 케빈 뱅크스턴 (@KevinBankston) 2024년 7월 10일

구글은 블로그 게시물에서 생성 시대에 구글 워크스페이스 데이터를 어떻게 보호하는지에 대해 언급합니다.

그들은 허가 없이 워크스페이스 데이터를 사용하여 Bard [현재 제미니], 검색 및 워크스페이스 외부의 다른 시스템을 지원하는 기본 생성 AI 및 대규모 언어 모델을 훈련하거나 개선하지 않습니다.