Un hacker ha rubato i dettagli interni dell'IA di OpenAI nella violazione del 2023: rapporto

Un hacker ha ottenuto accesso ai sistemi di messaggistica interni del creatore di ChatGPT, OpenAI, all’inizio dello scorso anno, e ha rubato informazioni sul design dei prodotti di intelligenza artificiale (IA) dell’azienda, ha dichiarato un rapporto pubblicato da The New York Times giovedì.

Il hacker avrebbe estratto conversazioni da un forum online interno dove i dipendenti di OpenAI stavano discutendo i più recenti progressi tecnologici su cui l’azienda stava lavorando, ha riportato il NYT, citando due persone a conoscenza della questione.

Tuttavia, il hacker non è riuscito ad accedere ai sistemi in cui OpenAI ospita e costruisce i suoi prodotti di IA.

L’azienda ha condiviso informazioni sulla violazione della sicurezza con i suoi dipendenti e il consiglio durante un incontro generale nell’aprile 2023.

Tuttavia, il rapporto ha aggiunto che non ha condiviso le informazioni pubblicamente, poiché nessuna informazione relativa ai suoi clienti o partner è stata rubata nel presunto attacco.

Inoltre, i dirigenti di OpenAI non avrebbero considerato l’incidente una minaccia per la sicurezza nazionale poiché pensavano che il hacker fosse un individuo indipendente senza connessioni note a nessun governo straniero.

L’azienda con sede a San Francisco non ha nemmeno notificato l’F.B.I. o chiunque altro nelle forze dell’ordine riguardo all’intrusione.

Un portavoce di OpenAI ha riconosciuto un “incidente di sicurezza” in una dichiarazione ma non ha fornito ulteriori informazioni sulla violazione.

“Come abbiamo condiviso con il nostro consiglio e i dipendenti lo scorso anno, abbiamo identificato e risolto il problema di sicurezza sottostante e continuiamo a investire nel rafforzamento della nostra sicurezza,” ha dichiarato il portavoce dell’azienda.

A maggio di quest’anno, OpenAI ha dichiarato di aver bloccato cinque operazioni di influenza segrete che volevano abusare dei suoi modelli di IA per “attività ingannevoli” su Internet. Questo evidenzia le crescenti preoccupazioni riguardo al potenziale abuso delle tecnologie avanzate di IA.

Data l’importanza crescente della tecnologia IA, gli attacchi alle aziende di IA sono destinati a continuare e aumentare, ha avvertito il Dr. Ilia Kolochenko, esperto di cybersecurity e amministratore delegato della società di sicurezza ImmuniWeb.

“Anche se i dettagli del presunto incidente non sono ancora confermati da OpenAI, c’è una forte possibilità che l’incidente sia effettivamente avvenuto e non sia l’unico.

“La corsa globale all’IA è diventata una questione di sicurezza nazionale per molti paesi; pertanto, i gruppi di crimine informatico sostenuti dallo stato e i mercenari stanno prendendo di mira aggressivamente i fornitori di IA, da talentuosi start-up a giganti tecnologici come Google o OpenAI,” ha detto.

Kolochenko ha aggiunto che i hacker canalizzano principalmente i loro sforzi nel rubare proprietà intellettuale preziosa, inclusi ricerche tecnologiche e know-how, modelli di linguaggio di grandi dimensioni (LLM), fonti di dati di addestramento e informazioni commerciali come i clienti dei fornitori di IA e nuovi usi dell’IA in diversi settori.

“Attori di cyber-minaccia più sofisticati possono anche impiantare backdoor furtive per controllare continuamente le aziende di IA violate e per poter interrompere improvvisamente o addirittura chiudere le loro operazioni, simile alle campagne di hacking su larga scala che prendono di mira le infrastrutture nazionali critiche (CNI) nei paesi occidentali recentemente,” ha osservato.

“Tutti gli utenti aziendali dei fornitori di GenAI dovrebbero essere particolarmente attenti e prudenti quando condividono o danno accesso ai loro dati proprietari per l’addestramento o il fine-tuning dei LLM, poiché i loro dati – che spaziano da informazioni privilegiate avvocato-cliente e segreti commerciali delle principali aziende industriali o farmaceutiche a informazioni militari classificate – sono anche nel mirino dei criminali informatici affamati di IA che sono pronti ad intensificare i loro attacchi.”

Mentre ci muoviamo verso un mondo guidato dall’IA, tali rapporti sono un campanello d’allarme sulla necessità di misure di cybersecurity robuste e trasparenza, specialmente per le organizzazioni, per garantire la sicurezza e la privacy dei loro clienti e partner.