Gemini AI wurde beim Scannen von Google Drive-Dokumenten ohne Erlaubnis der Nutzer erwischt

Die hauseigene künstliche Intelligenz von Google, Gemini AI, hat anscheinend private Google Drive-Dokumente gelesen, ohne die ausdrückliche Erlaubnis des Nutzers einzuholen, laut einer schockierenden Enthüllung eines Senior Advisors für KI-Governance und X-Nutzers Kevin Bankster (über Tom’s Hardware).

Aktualisiert mit Googles Antwort:

Google hat solche Behauptungen zurückgewiesen. Ein Google-Sprecher wandte sich an techworm und sagte:

„Unsere generativen KI-Funktionen sind so konzipiert, dass sie den Nutzern Wahlmöglichkeiten bieten und sie die Kontrolle über ihre Daten behalten. Die Nutzung von Gemini in Google Workspace erfordert, dass ein Nutzer dies proaktiv aktiviert, und wenn er dies tut, wird sein Inhalt auf eine datenschutzfreundliche Weise verwendet, um nützliche Antworten auf seine Eingaben zu generieren, aber nicht anderweitig ohne Erlaubnis gespeichert.“

„In diesem Fall scheint es, dass der Nutzer zuvor Gemini über das Seitenpanel in Google Drive für PDFs verwendet hat und dies nicht mehr tun wollte, was einfach durch Schließen des Seitenpanels geschehen kann.“

Die Nutzerbehauptungen vor Googles Kommentar sind wie folgt:

Kevin sagte, dass er nach dem Öffnen eines Steuererklärungsdokuments als PDF in Google Docs, die Gemini AI sofort eine Zusammenfassung seiner Steuern bereitstellte, ohne dass er irgendwelche Informationen gab oder die KI darum bat.

Bei weiteren Untersuchungen stellte sich heraus, dass das Problem nur PDFs betraf.

Ich habe gerade meine Steuererklärung in @Google Docs aufgerufen – und ungebeten hat Gemini sie zusammengefasst. Also… Gemini nimmt automatisch sogar die privaten Dokumente auf, die ich in Google Docs öffne? WTF, Leute. Ich habe nicht danach gefragt. Jetzt muss ich neue Einstellungen finden, von denen ich nie informiert wurde, um diesen Mist auszuschalten. — Kevin Bankston (@KevinBankston) 10. Juli 2024

Während die Datenschutzeinstellungen, die Gemini informieren sollten, öffentlich verfügbar sein sollten, waren sie es nicht.

Kevin konnte schließlich mit Hilfe eines anderen X-Nutzers die richtige Einstellung finden, nur um zu seiner Überraschung festzustellen, dass die Option bereits für Gmail, Google Docs und Google Drive deaktiviert war.

Das bedeutete, dass Gemini AI nicht auf die Dokumente in Gmail, Google Docs und Google Drive zugreifen und sie zusammenfassen sollte.

Außerdem war der Schalter für die Einstellungen an einem völlig anderen Ort als der, auf den Gemini’s Bot ihn ursprünglich verwiesen hatte.

„Die KI halluziniert entweder (lügt) oder einige interne Systeme auf Googles Servern funktionieren einfach nicht. So oder so, ist das kein guter Anblick, selbst wenn diese privaten Daten angeblich nicht verwendet werden, um die Gemini AI zu trainieren“, schrieb Kevin über die überraschende Interaktion mit dem KI-Assistenten auf seinem X-Konto.

Kevin glaubt, dass das Problem möglicherweise durch die Aktivierung von Google Workspace Labs verursacht wurde, für die er sich 2023 registriert hatte, was die beabsichtigten Gemini AI-Einstellungen überschreiben könnte.

In einem nachfolgenden Tweet teilte er jedoch mit, wie man Gemini daran hindern kann, Daten auf Google Drive zu lesen, indem man die Gemini-Erweiterungen deaktiviert.

Danke @missmwilliams! Die Einstellung existiert (wenn auch nicht dort, wo Gemini sagte). Aber der Witz kommt im nächsten Tweet… https://t.co/t5kPvIP6vp — Kevin Bankston (@KevinBankston) 10. Juli 2024

Google erwähnt in einem Blogbeitrag, wie sie Google Workspace-Daten im Zeitalter der generativen Ära schützen.

Sie verwenden keine Workspace-Daten, um die zugrunde liegende generative KI und die großen Sprachmodelle, die Bard [jetzt Gemini], Suche und andere Systeme außerhalb von Workspace antreiben, ohne Erlaubnis zu trainieren oder zu verbessern.