Hacker missbrauchen ChatGPT zur Erstellung von Malware: OpenAI-Bericht

OpenAI, das Unternehmen hinter dem beliebten KI-Chatbot ChatGPT, hat bekannt gegeben, dass es seit Anfang 2024 über 20 Operationen und betrügerische Netzwerke weltweit gestört hat, darunter Netzwerke, die mit iranischen und chinesischen staatlich geförderten Hackern in Verbindung stehen.

In einem am Mittwoch veröffentlichten Bericht sagte das Unternehmen für generative KI (GenAI), dass diese Operationen die Nutzung eines KI-gestützten Chatbots, ChatGPT, zur Fehlersuche von Malware, zum Schreiben von Artikeln für Websites, zur Erstellung von Inhalten, die von gefälschten Personas auf sozialen Medien veröffentlicht wurden, und zur Verbreitung wahlbezogener Desinformation umfassten.

Laut den Forschern Ben Nimmo und Michael Flossman, die den Bericht verfasst haben, nutzten die Bedrohungsakteure KI während der Zwischenphasen ihrer Kampagnen.

„Bedrohungsakteure verwendeten unsere Modelle am häufigsten, um Aufgaben in einer spezifischen, intermediären Phase der Aktivität auszuführen – nachdem sie grundlegende Werkzeuge wie Internetzugang, E-Mail-Adressen und Social-Media-Konten erworben hatten, aber bevor sie „fertige“ Produkte wie Social-Media-Beiträge oder Malware im Internet verbreiteten“, schrieben die Forscher im Bericht.

Sie betonten jedoch, dass trotz der Beteiligung von KI an Cyberangriffen und Einflusskampagnen die tatsächlichen Auswirkungen bisher begrenzt waren.

Sie fanden keine Hinweise darauf, dass KI zur Erstellung neuer, fortschrittlicher Malware beigetragen oder die Desinformationsbemühungen erheblich verbessert hat.

Der OpenAI-Bericht hebt drei wichtige Bedrohungsgruppen hervor, die ChatGPT ausgenutzt haben, um Cyberangriffe zu erleichtern:

SweetSpectre: Eine mit China verbundene Gruppe, SweetSpectre, nutzte ChatGPT für Aufklärung, Schwachstellenforschung, Skripting-Unterstützung, Umgehung von Anomalieerkennung und Entwicklung.

Es wurde auch festgestellt, dass Spear-Phishing-E-Mails mit schädlichen Anhängen an die Unternehmens- und persönlichen E-Mail-Konten einiger OpenAI-Mitarbeiter gesendet wurden, aber sie wurden blockiert, bevor sie die Ziel-Postfächer erreichten.

CyberAv3ngers: Diese Gruppe, die mit dem Islamischen Revolutionsgarten Korps (IRGC) des Iran in Verbindung steht, ist bekannt für ihre störenden Angriffe auf industrielle Steuerungssysteme (ICS) und programmierbare Logiksteuerungen (PLCs), die in Wassersystemen, der Fertigung und Energiesystemen verwendet werden.

Die Gruppe nutzte das ChatGPT-Modell, um Schwachstellen zu recherchieren, Code zu debuggen und um Skripting-Ratschläge zu bitten, um Infrastrukturen anzugreifen, die typischerweise mit Israel, den Vereinigten Staaten oder Irland in Verbindung stehen.

STORM-0817: Ein weiterer bedrohlicher Akteur aus dem Iran, STORM-0817, von dem OpenAI glaubt, dass es das erste Mal ist, dass ein Hacker öffentlich identifiziert wurde, der KI-Modelle verwendet.

Diese Gruppe versuchte, ChatGPT zur Fehlersuche von Malware, zur Erstellung von Tools wie einem Instagram-Scraper, zur Übersetzung von LinkedIn-Profilen ins Persische und zur Unterstützung beim Debuggen und Codieren bei der Implementierung von Android-Malware sowie der unterstützenden Kommando- und Kontrollinfrastruktur zu nutzen.

Darüber hinaus deuteten die in von Angreifern bereitgestellten Eingabeaufforderungen erstellten Code-Schnipsel mit Hilfe des Chatbots von OpenAI darauf hin, dass die Malware Kontakte, Anrufprotokolle, installierte Pakete, Mediendateien auf externem Speicher, Screenshots, Geräte-IMEI und -Modell, Browserverlauf, Breiten-/Längengrad, Dateien vom externen Speicher (pdf, excel-Dokumente) und Inhalte, die auf externen Speicher heruntergeladen wurden, einschließlich Dateien, die von sicheren Messaging-Apps wie WhatsApp und IMO gesendet wurden, stehlen könnte.

„Parallel dazu nutzte STORM-0817 ChatGPT zur Unterstützung der Entwicklung von serverseitigem Code, der erforderlich ist, um Verbindungen von kompromittierten Geräten zu verwalten“, heißt es im OpenAI-Bericht.

„Dies ermöglichte uns zu sehen, dass der Kommando- und Kontrollserver für diese Malware ein WAMP (Windows, Apache, MySQL & PHP/Perl/Python) Setup ist und während der Tests die Domain stickhero[.]pro verwendete.“

Während diese Gruppen versuchten, ChatGPT auszunutzen, betonte OpenAI, dass KI ihnen keine signifikanten neuen Fähigkeiten zur Entwicklung von Malware bot. Die Hacker konnten nur inkrementelle Vorteile erzielen, die bereits durch öffentlich verfügbare, nicht KI-gestützte Werkzeuge erreichbar waren.

Obwohl die Beteiligung von KI an Cyberangriffen besorgniserregend ist, hat OpenAI Maßnahmen ergriffen, um diese böswilligen Aktivitäten zu identifizieren und zu stören.

„Während wir in die Zukunft blicken, werden wir weiterhin mit unseren Teams für Intelligenz, Ermittlungen, Sicherheitsforschung und Politik zusammenarbeiten, um vorherzusehen, wie böswillige Akteure fortschrittliche Modelle für gefährliche Zwecke nutzen könnten, und um die Durchsetzungsmaßnahmen entsprechend zu planen. Wir werden weiterhin unsere Erkenntnisse mit unseren internen Sicherheits- und Schutzteams teilen, Lektionen an wichtige Interessengruppen kommunizieren und mit unseren Branchenkollegen und der breiteren Forschungsgemeinschaft zusammenarbeiten, um Risiken vorauszusehen und unsere kollektive Sicherheit und Schutz zu stärken“, schloss das Unternehmen.