I dipendenti Samsung rilasciano accidentalmente dati sensibili dell'azienda a ChatGPT

Solo tre settimane prima, Samsung aveva revocato un divieto per i dipendenti di utilizzare ChatGPT di OpenAI a causa di preoccupazioni sulla privacy dei dati.

Tuttavia, da quando il divieto è stato revocato, ci sono stati tre casi separati di dipendenti Samsung che hanno accidentalmente rivelato informazioni sensibili relative alla divisione semiconduttori di Samsung a ChatGPT in un arco di 20 giorni, afferma un rapporto di The Economist Korea (come notato da Mashable).

Il divieto era originariamente destinato a proteggere i dati aziendali ma è stato revocato l’11 marzo 2023, affinché gli ingegneri della divisione semiconduttori potessero utilizzare ChatGPT per risolvere problemi con il codice sorgente, migliorare la produttività e rimanere aggiornati sulle ultime innovazioni tecnologiche.

Mentre consentiva l’uso di ChatGPT, il gigante sudcoreano ha anche emesso un avviso alla divisione semiconduttori per “fare attenzione alla sicurezza delle informazioni interne e non inserire informazioni private” nel popolare chatbot di intelligenza artificiale (AI).

Nel primo caso, un dipendente di Semiconductor and Device Solutions ha affrontato un problema durante l’esecuzione di un software di download del database (DB) di misurazione delle attrezzature semiconduttori.

Poiché sembrava un problema di codice sorgente software, il dipendente ha copiato e incollato il codice sorgente confidenziale difettoso nello strumento AI. Ha quindi chiesto al chatbot di controllare gli errori e trovare una soluzione, rendendo effettivamente il codice sorgente parte dei dati di addestramento interni di ChatGPT.

Nel secondo caso, un dipendente, di fronte a difficoltà nella comprensione del rendimento del dispositivo e di altre informazioni, ha condiviso il codice con il chatbot AI e ha richiesto “ottimizzazione del codice” a ChatGPT.

Mentre nel terzo caso, un dipendente ha condiviso una registrazione di una riunione aziendale confidenziale e ha chiesto a ChatGPT di convertirla in appunti per una presentazione. Le informazioni condivise con ChatGPT a causa di questi incidenti sono ora parte di esso per sempre e non possono essere eliminate.

Di conseguenza, Samsung ha preso misure immediate e ha ora limitato la lunghezza di ciascun prompt di ChatGPT a un kilobyte o 1024 caratteri di testo. Si dice anche che l’azienda stia indagando sui tre dipendenti coinvolti nella fuga di dati, oltre a considerare di ripristinare il divieto.

Per prevenire simili incidenti imbarazzanti in futuro, Samsung sta ora sviluppando il proprio chatbot AI, destinato ad essere utilizzato esclusivamente dai propri dipendenti per scopi interni.

“Se si verifica un incidente simile anche dopo che sono state adottate misure di protezione delle informazioni di emergenza, l’accesso a ChatGPT potrebbe essere bloccato sulla rete aziendale,” recita un promemoria interno inviato da Samsung che consiglia ai propri dipendenti di esercitare cautela nell’utilizzo dello strumento AI.

“Non appena il contenuto viene inserito in ChatGPT, i dati vengono trasmessi e memorizzati su un server esterno, rendendo impossibile per l’azienda recuperarli.”

La guida utente di ChatGPT avverte esplicitamente gli utenti di non condividere informazioni sensibili nelle loro conversazioni, poiché non è “in grado di eliminare specifici prompt dalla tua cronologia.”

È importante notare che tutte le domande e i testi condivisi con ChatGPT vengono conservati per addestrare e migliorare i suoi modelli AI, a meno che gli utenti non scelgano esplicitamente di rinunciare. In altre parole, è difficile o impossibile cancellare completamente i dati dal sistema.

“Come parte del nostro impegno per un’AI sicura e responsabile, esaminiamo le conversazioni per migliorare i nostri sistemi e garantire che il contenuto sia conforme alle nostre politiche e requisiti di sicurezza… Le tue conversazioni potrebbero essere esaminate dai nostri formatori AI per migliorare i nostri sistemi,” spiega chiaramente OpenAI sul suo sito web.

È interessante notare che OpenAI afferma: “Rimuoviamo qualsiasi informazione personale identificabile dai dati che intendiamo utilizzare per migliorare le prestazioni del modello. Utilizziamo anche solo un piccolo campione di dati per cliente per i nostri sforzi di miglioramento delle prestazioni del modello.”

È interessante notare che ChatGPT è stato recentemente oggetto di molte critiche per le sue politiche di raccolta dati in Europa, con l’Italia che ha temporaneamente vietato il chatbot AI nel paese a causa di preoccupazioni sulla privacy. Anche la Germania potrebbe seguire il recente divieto di ChatGPT in Italia e potrebbe intraprendere un’azione simile bloccando il chatbot AI nel proprio paese.