Hacker stahl interne KI-Details von OpenAI bei Datenleck 2023: Bericht

Ein Hacker erhielt Anfang letzten Jahres Zugang zu den internen Messaging-Systemen des ChatGPT-Erstellers OpenAI und stahl Informationen über das Design der KI-Produkte des Unternehmens, berichtete die New York Times am Donnerstag.

Der Hacker soll Gespräche aus einem internen Online-Forum extrahiert haben, in dem OpenAI-Mitarbeiter über die neuesten technologischen Fortschritte diskutierten, an denen das Unternehmen arbeitete, berichtete die NYT unter Berufung auf zwei mit der Angelegenheit vertraute Personen.

Der Hacker konnte jedoch nicht auf die Systeme zugreifen, in denen OpenAI seine KI-Produkte speichert und entwickelt.

Das Unternehmen teilte Informationen über die Sicherheitsverletzung während eines All-Hands-Meetings im April 2023 mit seinen Mitarbeitern und dem Vorstand.

Der Bericht fügte jedoch hinzu, dass die Informationen nicht öffentlich geteilt wurden, da keine Informationen über Kunden oder Partner bei dem angeblichen Hack gestohlen wurden.

Darüber hinaus sahen die OpenAI-Führungskräfte den Vorfall offenbar nicht als Bedrohung der nationalen Sicherheit an, da sie dachten, der Hacker sei eine unabhängige Person ohne bekannte Verbindungen zu einer ausländischen Regierung.

Das in San Francisco ansässige Unternehmen informierte auch das F.B.I. oder andere Strafverfolgungsbehörden nicht über den Eindringling.

Ein OpenAI-Sprecher bestätigte in einer Erklärung einen „Sicherheitsvorfall“, gab jedoch keine weiteren Informationen über die Verletzung bekannt.

„Wie wir letztes Jahr unserem Vorstand und unseren Mitarbeitern mitgeteilt haben, haben wir das zugrunde liegende Sicherheitsproblem identifiziert und behoben und investieren weiterhin in die Stärkung unserer Sicherheit“, sagte der Unternehmenssprecher.

Im Mai dieses Jahres erklärte OpenAI, dass es fünf verdeckte Einflussoperationen blockiert habe, die seine KI-Modelle für „täuschende Aktivitäten“ im Internet missbrauchen wollten. Dies unterstreicht die wachsenden Bedenken hinsichtlich des potenziellen Missbrauchs fortschrittlicher KI-Technologien.

Angesichts der wachsenden Bedeutung der KI-Technologie werden Angriffe auf KI-Unternehmen wahrscheinlich weiterhin zunehmen, warnte Dr. Ilia Kolochenko, ein Cybersicherheitsexperte und Geschäftsführer des Sicherheitsunternehmens ImmuniWeb.

„Während die Einzelheiten des angeblichen Vorfalls von OpenAI noch nicht bestätigt sind, besteht eine hohe Wahrscheinlichkeit, dass der Vorfall tatsächlich stattgefunden hat und nicht der einzige ist.

„Das globale Rennen um KI ist für viele Länder zu einer Frage der nationalen Sicherheit geworden; daher zielen staatlich unterstützte Cyberkriminalitätsgruppen und Söldner aggressiv auf KI-Anbieter ab, von talentierten Start-ups bis hin zu Technologiegiganten wie Google oder OpenAI“, sagte er.

Kolochenko fügte hinzu, dass Hacker ihre Bemühungen hauptsächlich darauf konzentrieren, wertvolles geistiges Eigentum zu stehlen, einschließlich technologischer Forschung und Know-how, großer Sprachmodelle (LLMs), Quellen für Trainingsdaten und kommerzieller Informationen wie die Kunden von KI-Anbietern und neuartige Anwendungen von KI in verschiedenen Branchen.

„Fortgeschrittene Cyber-Bedrohungsakteure könnten auch heimliche Hintertüren implantieren, um die kompromittierten KI-Unternehmen kontinuierlich zu kontrollieren und um plötzlich ihre Operationen zu stören oder sogar abzuschalten, ähnlich wie bei den großangelegten Hacking-Kampagnen, die kürzlich kritische nationale Infrastrukturen (CNI) in westlichen Ländern ins Visier genommen haben“, bemerkte er.

„Alle Unternehmensnutzer von GenAI-Anbietern sollten besonders vorsichtig und umsichtig sein, wenn sie ihre proprietären Daten für das Training oder die Feinabstimmung von LLMs teilen oder Zugriff darauf gewähren, da ihre Daten – von anwaltlich geschützten Informationen und Geschäftsgeheimnissen führender Industrie- oder Pharmaunternehmen bis hin zu geheimen militärischen Informationen – ebenfalls im Visier von KI-hungrigen Cyberkriminellen stehen, die bereit sind, ihre Angriffe zu intensivieren.“

Während wir auf eine KI-gesteuerte Welt zusteuern, sind solche Berichte ein Weckruf für die Notwendigkeit robuster Cybersicherheitsmaßnahmen und Transparenz, insbesondere für Organisationen, um die Sicherheit und Privatsphäre ihrer Kunden und Partner zu gewährleisten.