Empleados de Samsung Filtran Accidentalmente Datos Sensibles de la Empresa a ChatGPT

Justo tres semanas antes, Samsung había levantado una prohibición sobre el uso de ChatGPT de OpenAI por parte de los empleados debido a preocupaciones sobre la privacidad de los datos.

Sin embargo, desde que se levantó la prohibición, ha habido tres instancias separadas de empleados de Samsung filtrando accidentalmente información sensible relacionada con la división de semiconductores de Samsung a ChatGPT en un lapso de 20 días, según un informe de The Economist Korea (como lo señaló Mashable).

La prohibición estaba originalmente destinada a proteger los datos de la empresa, pero fue levantada el 11 de marzo de 2023, para que los ingenieros de la división de semiconductores pudieran usar ChatGPT para solucionar problemas con el código fuente, mejorar la productividad y estar al tanto de los últimos cambios tecnológicos.

Mientras permitía el uso de ChatGPT, el gigante surcoreano también emitió un aviso a la división de semiconductores para “tener cuidado con la seguridad de la información interna y no ingresar información privada” en el popular chatbot de inteligencia artificial (IA).

En la primera instancia, un empleado de Soluciones de Semiconductores y Dispositivos enfrentó un problema al ejecutar un software de descarga de base de datos (DB) de medición de equipos semiconductores.

Dado que parecía un problema de código fuente de software, el empleado copió y pegó el código fuente confidencial defectuoso de la empresa en la herramienta de IA. Luego le pidió al chatbot que verificara los errores y encontrara una solución, convirtiendo efectivamente el código fuente en parte de los datos de entrenamiento interno de ChatGPT.

En la segunda instancia, un empleado, al enfrentar dificultades para entender el rendimiento del dispositivo y otra información, compartió el código con el chatbot de IA y solicitó “optimización de código” a ChatGPT.

Mientras que en la tercera instancia, un empleado compartió una grabación de una reunión confidencial de la empresa y pidió a ChatGPT que la convirtiera en notas para una presentación. La información compartida con ChatGPT debido a estos incidentes ahora es parte de él para siempre y no puede ser eliminada.

Como resultado, Samsung tomó medidas inmediatas y ahora ha limitado la longitud de los mensajes de ChatGPT de cada empleado a un kilobyte o 1024 caracteres de texto. Se dice que la empresa también está investigando a los tres empleados que formaron parte de la filtración, así como considerando restablecer la prohibición.

Para prevenir tales incidentes embarazosos en el futuro, Samsung ahora está desarrollando su propio chatbot de IA, que está destinado a ser utilizado estrictamente por sus empleados para fines internos.

“Si ocurre un accidente similar incluso después de que se tomen medidas de protección de información de emergencia, el acceso a ChatGPT puede ser bloqueado en la red de la empresa”, dice un memo interno enviado por Samsung aconsejando a sus empleados que ejerzan precaución al usar la herramienta de IA.

“Tan pronto como se ingresa contenido en ChatGPT, los datos se transmiten y almacenan en un servidor externo, lo que hace imposible que la empresa los recupere.”

La guía del usuario de ChatGPT advierte explícitamente a los usuarios que no compartan información sensible en sus conversaciones, ya que “no puede eliminar solicitudes específicas de su historial.”

Es importante señalar que todas las preguntas y textos compartidos con ChatGPT se retienen para entrenar y mejorar sus modelos de IA, a menos que los usuarios elijan explícitamente optar por no participar. En otras palabras, es difícil o imposible borrar completamente los datos del sistema.

“Como parte de nuestro compromiso con una IA segura y responsable, revisamos las conversaciones para mejorar nuestros sistemas y garantizar que el contenido cumpla con nuestras políticas y requisitos de seguridad… Sus conversaciones pueden ser revisadas por nuestros entrenadores de IA para mejorar nuestros sistemas”, explica claramente OpenAI en su sitio web.

Notablemente, OpenAI afirma: “Eliminamos cualquier información de identificación personal de los datos que pretendemos usar para mejorar el rendimiento del modelo. También solo usamos una pequeña muestra de datos por cliente para nuestros esfuerzos de mejora del rendimiento del modelo.”

Curiosamente, ChatGPT ha estado bajo un gran escrutinio últimamente sobre sus políticas de recopilación de datos en Europa, con Italia prohibiendo temporalmente el chatbot de IA en el país debido a preocupaciones de privacidad. Alemania también podría seguir la reciente prohibición de ChatGPT en Italia y podría tomar una acción similar bloqueando el chatbot de IA en su país.