Сотрудники Samsung случайно раскрывают конфиденциальные данные компании ChatGPT

Всего три недели назад Samsung сняла запрет на использование ChatGPT от OpenAI из-за опасений по поводу конфиденциальности данных.

Тем не менее, с тех пор как запрет был снят, произошло три отдельных случая, когда сотрудники Samsung случайно раскрыли конфиденциальную информацию, связанную с полупроводниковым подразделением Samsung, ChatGPT за 20 дней, сообщает отчет The Economist Korea (как заметил Mashable).

Запрет изначально был предназначен для защиты данных компании, но был снят 11 марта 2023 года, чтобы инженеры полупроводникового подразделения могли использовать ChatGPT для решения проблем с исходным кодом, повышения производительности, а также быть в курсе последних технологических изменений.

Разрешая использование ChatGPT, южнокорейский гигант также выпустил уведомление для полупроводникового подразделения с просьбой “быть осторожными с внутренней информационной безопасностью и не вводить личную информацию” в популярном чат-боте искусственного интеллекта (ИИ).

В первом случае сотрудник из Semiconductor and Device Solutions столкнулся с проблемой при выполнении программного обеспечения для загрузки базы данных (БД) измерений полупроводникового оборудования.

Поскольку это выглядело как проблема с исходным кодом программного обеспечения, сотрудник скопировал и вставил ошибочный конфиденциальный исходный код компании в ИИ-инструмент. Затем он попросил чат-бота проверить ошибки и найти решение, фактически сделав часть исходного кода частью внутренних учебных данных ChatGPT.

Во втором случае сотрудник, столкнувшись с трудностями в понимании выхода устройства и другой информации, поделился кодом с чат-ботом ИИ и запросил “оптимизацию кода” от ChatGPT.

В третьем случае сотрудник поделился записью конфиденциальной встречи компании и попросил ChatGPT преобразовать ее в заметки для презентации. Информация, переданная ChatGPT из-за этих инцидентов, теперь навсегда является ее частью и не может быть удалена.

В результате Samsung приняла немедленные меры и теперь ограничила длину запросов каждого сотрудника к ChatGPT до килобайта или 1024 символов текста. Также сообщается, что компания проводит расследование в отношении трех сотрудников, причастных к утечке, а также рассматривает возможность восстановления запрета.

Чтобы предотвратить подобные неловкие инциденты в будущем, Samsung теперь разрабатывает собственный чат-бот ИИ, который предназначен исключительно для использования сотрудниками в внутренних целях.

“Если подобный инцидент произойдет даже после принятия экстренных мер по защите информации, доступ к ChatGPT может быть заблокирован в корпоративной сети,” говорится во внутренней записке, отправленной Samsung, в которой советуется сотрудникам проявлять осторожность при использовании ИИ-инструмента.

“Как только контент вводится в ChatGPT, данные передаются и хранятся на внешнем сервере, что делает невозможным для компании их восстановление.”

Руководство пользователя ChatGPT явно предупреждает пользователей не делиться конфиденциальной информацией в своих разговорах, так как оно “не может удалить конкретные запросы из вашей истории.”

Важно отметить, что все вопросы и текст, переданные ChatGPT, сохраняются для обучения и улучшения его ИИ-моделей, если пользователи явно не решат отказаться. Другими словами, трудно или невозможно полностью стереть данные из системы.

“В рамках нашей приверженности безопасному и ответственному ИИ мы просматриваем разговоры, чтобы улучшить наши системы и убедиться, что контент соответствует нашим политикам и требованиям безопасности… Ваши разговоры могут быть проверены нашими тренерами ИИ для улучшения наших систем,” четко объясняет OpenAI на своем сайте.

Примечательно, что OpenAI утверждает: “Мы удаляем любую личную информацию из данных, которые мы намерены использовать для улучшения производительности модели. Мы также используем только небольшую выборку данных от каждого клиента для наших усилий по улучшению производительности модели.”

Интересно, что ChatGPT в последнее время находится под пристальным вниманием из-за своих политик сбора данных в Европе, и Италия временно запретила чат-бота ИИ в стране из-за опасений по поводу конфиденциальности. Германия также может последовать за недавним запретом ChatGPT в Италии и предпринять аналогичные действия, заблокировав чат-бота ИИ в своей стране.