Des employés de Samsung divulguent accidentellement des données sensibles de l'entreprise à ChatGPT

Il y a seulement trois semaines, Samsung avait levé une interdiction pour ses employés d’utiliser ChatGPT d’OpenAI en raison de préoccupations liées à la confidentialité des données.

Cependant, depuis que l’interdiction a été levée, il y a eu trois incidents distincts où des employés de Samsung ont accidentellement divulgué des informations sensibles liées à la division des semi-conducteurs de Samsung à ChatGPT en l’espace de 20 jours, selon un rapport de The Economist Korea (repéré par Mashable).

L’interdiction était à l’origine destinée à protéger les données de l’entreprise, mais a été levée le 11 mars 2023, afin que les ingénieurs de la division des semi-conducteurs puissent utiliser ChatGPT pour résoudre des problèmes avec le code source, améliorer la productivité ainsi que se tenir au courant des dernières évolutions technologiques.

Tout en permettant l’utilisation de ChatGPT, le géant sud-coréen a également émis un avis à la division des semi-conducteurs pour “faire attention à la sécurité des informations internes et ne pas entrer d’informations privées” dans le populaire chatbot d’intelligence artificielle (IA).

Dans le premier cas, un employé de Semiconductor and Device Solutions a rencontré un problème lors de l’exécution d’un logiciel de téléchargement de base de données (DB) de mesure d’équipement semi-conducteur.

Comme il semblait s’agir d’un problème de code source logiciel, l’employé a copié et collé le code source confidentiel défectueux dans l’outil IA. Il a ensuite demandé au chatbot de vérifier les erreurs et de trouver une solution, faisant ainsi du code source une partie des données d’entraînement internes de ChatGPT.

Dans le deuxième cas, un employé, confronté à des difficultés pour comprendre le rendement des dispositifs et d’autres informations, a partagé le code avec le chatbot IA et a demandé une “optimisation du code” à ChatGPT.

Dans le troisième cas, un employé a partagé un enregistrement d’une réunion confidentielle de l’entreprise et a demandé à ChatGPT de le convertir en notes pour une présentation. Les informations partagées avec ChatGPT en raison de ces incidents font maintenant partie de celles-ci pour toujours et ne peuvent pas être supprimées.

En conséquence, Samsung a pris des mesures immédiates et a désormais limité la longueur des invites ChatGPT de chaque employé à un kilooctet ou 1024 caractères de texte. L’entreprise serait également en train d’enquêter sur les trois employés impliqués dans la fuite, tout en envisageant de rétablir l’interdiction.

Afin de prévenir de tels incidents embarrassants à l’avenir, Samsung développe maintenant son propre chatbot IA, qui est destiné à être strictement utilisé par ses employés à des fins internes.

“Si un accident similaire se produit même après la mise en place de mesures d’urgence pour la protection des informations, l’accès à ChatGPT pourrait être bloqué sur le réseau de l’entreprise,” indique une note interne envoyée par Samsung conseillant à ses employés de faire preuve de prudence lors de l’utilisation de l’outil IA.

“Dès qu’un contenu est saisi dans ChatGPT, les données sont transmises et stockées sur un serveur externe, rendant impossible pour l’entreprise de les récupérer.”

Le guide de l’utilisateur de ChatGPT avertit explicitement les utilisateurs de ne pas partager d’informations sensibles dans leurs conversations, car il “n’est pas en mesure de supprimer des invites spécifiques de votre historique.”

Il est important de noter que toutes les questions et textes partagés avec ChatGPT sont conservés afin de former et d’améliorer ses modèles d’IA, sauf si les utilisateurs choisissent explicitement de se désinscrire. En d’autres termes, il est difficile ou impossible d’effacer complètement les données du système.

“Dans le cadre de notre engagement envers une IA sûre et responsable, nous examinons les conversations pour améliorer nos systèmes et pour garantir que le contenu respecte nos politiques et exigences de sécurité… Vos conversations peuvent être examinées par nos formateurs IA pour améliorer nos systèmes,” explique clairement OpenAI sur son site web.

Notamment, OpenAI affirme : “Nous supprimons toute information personnellement identifiable des données que nous avons l’intention d’utiliser pour améliorer les performances du modèle. Nous n’utilisons également qu’un petit échantillon de données par client pour nos efforts d’amélioration des performances du modèle.”

Il est intéressant de noter que ChatGPT a récemment été sous le feu des critiques concernant ses politiques de collecte de données en Europe, l’Italie interdisant temporairement le chatbot IA dans le pays en raison de préoccupations en matière de confidentialité. L’Allemagne pourrait également suivre l’interdiction récente de ChatGPT en Italie et pourrait prendre une mesure similaire en bloquant le chatbot IA dans leur pays.