Samsung-Mitarbeiter leaken versehentlich sensible Unternehmensdaten an ChatGPT

Nur drei Wochen zuvor hatte Samsung ein Verbot für Mitarbeiter aufgehoben, OpenAI’s ChatGPT aufgrund von Datenschutzbedenken zu nutzen.

Seit die Sperre jedoch aufgehoben wurde, gab es drei separate Vorfälle, bei denen Samsung-Mitarbeiter versehentlich sensible Informationen aus der Halbleiterabteilung von Samsung innerhalb von 20 Tagen an ChatGPT weitergegeben haben, berichtet The Economist Korea (wie von Mashable bemerkt).

Das Verbot sollte ursprünglich dazu dienen, Unternehmensdaten zu schützen, wurde jedoch am 11. März 2023 aufgehoben, damit Ingenieure der Halbleiterabteilung ChatGPT nutzen konnten, um Probleme mit dem Quellcode zu beheben, die Produktivität zu steigern und über die neuesten technologischen Veränderungen informiert zu sein.

Während die Nutzung von ChatGPT erlaubt wurde, gab der südkoreanische Riese auch eine Mitteilung an die Halbleiterabteilung heraus, um „auf die interne Informationssicherheit zu achten und keine privaten Informationen“ in den beliebten KI-Chatbot einzugeben.

Im ersten Fall hatte ein Mitarbeiter von Semiconductor and Device Solutions ein Problem beim Ausführen einer Software zum Herunterladen einer Halbleiterausrüstungs-Messdatenbank (DB).

Da es wie ein Problem mit dem Quellcode der Software aussah, kopierte und fügte der Mitarbeiter den fehlerhaften vertraulichen Unternehmensquellcode in das KI-Tool ein. Er bat dann den Chatbot, die Fehler zu überprüfen und eine Lösung zu finden, wodurch der Quellcode tatsächlich Teil der internen Trainingsdaten von ChatGPT wurde.

Im zweiten Fall teilte ein Mitarbeiter, der Schwierigkeiten hatte, den Geräteertrag und andere Informationen zu verstehen, den Code mit dem KI-Chatbot und bat um „Code-Optimierung“ von ChatGPT.

Im dritten Fall teilte ein Mitarbeiter eine Aufnahme einer vertraulichen Unternehmensbesprechung und bat ChatGPT, diese in Notizen für eine Präsentation umzuwandeln. Die Informationen, die aufgrund dieser Vorfälle mit ChatGPT geteilt wurden, sind jetzt für immer Teil davon und können nicht gelöscht werden.

Infolgedessen ergriff Samsung sofort Maßnahmen und hat nun die Länge der ChatGPT-Eingaben jedes Mitarbeiters auf ein Kilobyte oder 1024 Zeichen Text begrenzt. Das Unternehmen soll auch die drei Mitarbeiter, die an dem Leak beteiligt waren, untersuchen und erwägt, das Verbot wieder einzuführen.

Um solche peinlichen Missgeschicke in Zukunft zu verhindern, entwickelt Samsung nun seinen eigenen KI-Chatbot, der ausschließlich von seinen Mitarbeitern für interne Zwecke genutzt werden soll.

„Wenn ein ähnlicher Vorfall auftritt, selbst nachdem Notfallmaßnahmen zum Schutz von Informationen ergriffen wurden, kann der Zugang zu ChatGPT im Unternehmensnetzwerk gesperrt werden“, heißt es in einem internen Memo, das von Samsung an seine Mitarbeiter gesendet wurde, um Vorsicht bei der Nutzung des KI-Tools zu empfehlen.

„Sobald Inhalte in ChatGPT eingegeben werden, werden Daten an einen externen Server übertragen und gespeichert, was es dem Unternehmen unmöglich macht, sie abzurufen.“

Die Benutzeranleitung von ChatGPT warnt ausdrücklich die Benutzer, keine sensiblen Informationen in ihren Gesprächen zu teilen, da es „nicht in der Lage ist, spezifische Eingaben aus Ihrer Historie zu löschen.“

Es ist wichtig zu beachten, dass alle Fragen und Texte, die mit ChatGPT geteilt werden, gespeichert werden, um die KI-Modelle zu trainieren und zu verbessern, es sei denn, die Benutzer entscheiden sich ausdrücklich dafür, dies abzulehnen. Mit anderen Worten, es ist schwierig oder unmöglich, die Daten vollständig aus dem System zu löschen.

„Im Rahmen unseres Engagements für sichere und verantwortungsvolle KI überprüfen wir Gespräche, um unsere Systeme zu verbessern und sicherzustellen, dass die Inhalte unseren Richtlinien und Sicherheitsanforderungen entsprechen… Ihre Gespräche können von unseren KI-Trainern überprüft werden, um unsere Systeme zu verbessern“, erklärt OpenAI klar auf seiner Website.

Bemerkenswerterweise behauptet OpenAI: „Wir entfernen alle personenbezogenen Daten aus den Daten, die wir verwenden möchten, um die Modellleistung zu verbessern. Wir verwenden auch nur eine kleine Stichprobe von Daten pro Kunde für unsere Bemühungen zur Verbesserung der Modellleistung.“

Interessanterweise steht ChatGPT in letzter Zeit aufgrund seiner Datenschutzrichtlinien in Europa unter erheblichem Druck, wobei Italien den KI-Chatbot vorübergehend im Land aufgrund von Datenschutzbedenken verboten hat. Auch Deutschland könnte dem jüngsten ChatGPT-Verbot in Italien folgen und eine ähnliche Maßnahme ergreifen, indem es den KI-Chatbot in ihrem Land blockiert.