Hacker che abusano di ChatGPT per scrivere malware: rapporto OpenAI

OpenAI, l’azienda dietro il popolare chatbot AI ChatGPT, ha rivelato di aver interrotto oltre 20 operazioni e reti ingannevoli in tutto il mondo dall’inizio del 2024, comprese reti collegate a hacker sponsorizzati dallo stato iraniano e cinese.

In un rapporto pubblicato mercoledì, l’azienda di intelligenza artificiale generativa (GenAI) ha dichiarato che queste operazioni coinvolgevano l’uso di un chatbot alimentato da AI, ChatGPT, per il debug di malware, la scrittura di articoli per siti web, la generazione di contenuti pubblicati da falsi profili su account di social media e la diffusione di disinformazione legata alle elezioni.

Secondo i ricercatori Ben Nimmo e Michael Flossman, che hanno scritto il rapporto, gli attori della minaccia hanno sfruttato l’AI durante le fasi intermedie delle loro campagne.

“Gli attori della minaccia hanno più spesso utilizzato i nostri modelli per eseguire compiti in una fase specifica e intermedia dell’attività—dopo aver acquisito strumenti di base come accesso a internet, indirizzi email e account di social media, ma prima di distribuire prodotti ‘finiti’ come post sui social media o malware su internet,” hanno scritto i ricercatori nel rapporto.

Tuttavia, hanno sottolineato che, nonostante il coinvolgimento dell’AI negli attacchi informatici e nelle campagne di influenza, il suo impatto reale è stato finora limitato.

Non hanno trovato prove che l’AI contribuisse alla creazione di nuovi malware avanzati o migliorasse significativamente gli sforzi di disinformazione.

Il rapporto OpenAI evidenzia tre gruppi di minaccia chiave che hanno sfruttato ChatGPT per facilitare attacchi informatici:

SweetSpectre: Un gruppo collegato alla Cina, SweetSpectre, ha utilizzato ChatGPT per ricognizione, ricerca di vulnerabilità, supporto alla scrittura di script, evasione della rilevazione di anomalie e sviluppo.

È stato anche scoperto che email di spear phishing con allegati dannosi sono state inviate agli account email aziendali e personali di alcuni dipendenti di OpenAI, ma sono state bloccate prima di raggiungere le caselle di posta target.

CyberAv3ngers: Questo gruppo, collegato al Corpo delle Guardie Rivoluzionarie Islamiche (IRGC) dell’Iran, è noto per i suoi attacchi dirompenti contro i sistemi di controllo industriale (ICS) e i controllori logici programmabili (PLC) utilizzati nei sistemi idrici, nella produzione e nei sistemi energetici.

Il gruppo ha utilizzato il modello ChatGPT per ricercare vulnerabilità, eseguire il debug del codice e chiedere consigli sulla scrittura di script per mirare a infrastrutture tipicamente associate a Israele, Stati Uniti o Irlanda.

STORM-0817: Un altro attore della minaccia con sede in Iran, STORM-0817, che OpenAI ritiene sia la prima volta che un hacker è stato identificato pubblicamente utilizzando modelli AI.

Questo gruppo ha tentato di utilizzare ChatGPT per eseguire il debug di malware, creare strumenti come uno scraper di Instagram, tradurre profili LinkedIn in persiano e per supporto al debug e alla codifica nell’implementazione di malware Android, insieme all’infrastruttura di comando e controllo di supporto.

Inoltre, i frammenti di codice creati in prompt forniti dagli attaccanti con l’aiuto del chatbot di OpenAI indicavano che il malware poteva rubare contatti, registri delle chiamate, pacchetti installati, media su archiviazione esterna, screenshot, IMEI e modello del dispositivo, cronologia di navigazione, latitudine/longitudine, file da archiviazione esterna (pdf, documenti excel) e contenuti scaricati su archiviazione esterna, inclusi file inviati da app di messaggistica sicura come WhatsApp e IMO.

“In parallelo, STORM-0817 ha utilizzato ChatGPT per supportare lo sviluppo di codice lato server necessario per gestire le connessioni da dispositivi compromessi,” si legge nel rapporto di OpenAI.

“Questo ci ha permesso di vedere che il server di comando e controllo per questo malware è un setup WAMP (Windows, Apache, MySQL & PHP/Perl/Python) e durante i test stava utilizzando il dominio stickhero[.]pro.”

Mentre questi gruppi hanno cercato di sfruttare ChatGPT, OpenAI ha sottolineato che l’AI non ha fornito loro nuove capacità significative per sviluppare malware. Gli hacker sono stati in grado di ottenere solo vantaggi incrementali, già raggiungibili attraverso strumenti pubblicamente disponibili e non alimentati da AI.

Sebbene il coinvolgimento dell’AI negli attacchi informatici sia preoccupante, OpenAI ha implementato misure per identificare e interrompere queste attività dannose.

“Guardando al futuro, continueremo a lavorare con i nostri team di intelligence, indagini, ricerca sulla sicurezza e politiche per anticipare come gli attori malintenzionati potrebbero utilizzare modelli avanzati per fini pericolosi e pianificare i passi di enforcement di conseguenza. Continueremo a condividere le nostre scoperte con i nostri team interni di sicurezza e protezione, comunicare lezioni ai principali stakeholder e collaborare con i nostri colleghi del settore e la comunità di ricerca più ampia per rimanere un passo avanti rispetto ai rischi e rafforzare la nostra sicurezza e protezione collettiva,” ha concluso l’azienda.