삼성 직원들이 우연히 민감한 회사 데이터를 ChatGPT에 유출하다

불과 3주 전, 삼성은 데이터 프라이버시 문제로 인해 직원들이 OpenAI의 ChatGPT를 사용하는 것을 금지하는 조치를 해제했습니다.

그러나 금지가 해제된 이후로, 삼성의 반도체 부문과 관련된 민감한 정보가 ChatGPT에 우연히 유출된 사건이 20일 동안에 세 번 발생했다고 이코노미스트 코리아의 보고서가 전했습니다 (Mashable에서 발견됨).

금지는 원래 회사 데이터를 보호하기 위해 설정되었으나, 2023년 3월 11일에 해제되어 반도체 부문의 엔지니어들이 문제를 해결하고 생산성을 향상시키며 최신 기술 변화에 대한 인식을 높이기 위해 ChatGPT를 사용할 수 있도록 했습니다.

ChatGPT 사용을 허용하면서, 한국의 대기업은 반도체 부문에 “내부 정보 보안에 주의하고 개인 정보를 입력하지 말 것”이라는 공지를 발송했습니다.

첫 번째 사례에서, 반도체 및 장치 솔루션 부서의 한 직원은 반도체 장비 측정 데이터베이스(DB) 다운로드 소프트웨어를 실행하는 데 문제가 발생했습니다.

소프트웨어 소스 코드 문제처럼 보였기 때문에, 직원은 결함이 있는 기밀 회사 소스 코드를 AI 도구에 복사하여 붙여넣었습니다. 그 후 챗봇에게 오류를 확인하고 해결책을 찾도록 요청하여 실제로 소스 코드가 ChatGPT의 내부 훈련 데이터의 일부가 되었습니다.

두 번째 사례에서는, 장치 수율 및 기타 정보를 이해하는 데 어려움을 겪은 직원이 AI 챗봇과 코드를 공유하고 ChatGPT에 “코드 최적화”를 요청했습니다.

세 번째 사례에서는, 직원이 기밀 회사 회의의 녹음을 공유하고 ChatGPT에게 이를 발표용 노트로 변환해 달라고 요청했습니다. 이러한 사건으로 인해 ChatGPT와 공유된 정보는 이제 영원히 그 일부가 되어 삭제할 수 없습니다.

결과적으로 삼성은 즉각적인 조치를 취했으며, 이제 각 직원의 ChatGPT 프롬프트 길이를 킬로바이트 또는 1024자 텍스트로 제한했습니다. 회사는 또한 유출에 연루된 세 명의 직원을 조사하고 있으며, 금지 조치를 재도입하는 것을 고려하고 있다고 전해졌습니다.

앞으로 이러한 당혹스러운 사고를 방지하기 위해 삼성은 이제 직원들이 내부 용도로만 사용할 수 있는 자체 AI 챗봇을 개발하고 있습니다.

“비상 정보 보호 조치를 취한 후에도 유사한 사고가 발생하면 회사 네트워크에서 ChatGPT 접근이 차단될 수 있습니다.”라는 내부 메모가 삼성에서 직원들에게 AI 도구 사용 시 주의할 것을 권고하고 있습니다.

“ChatGPT에 콘텐츠가 입력되는 즉시 데이터가 외부 서버로 전송되고 저장되어 회사가 이를 회수할 수 없게 됩니다.”

ChatGPT의 사용자 가이드는 사용자에게 대화에서 민감한 정보를 공유하지 말 것을 명확히 경고하고 있습니다. 이는 “귀하의 기록에서 특정 프롬프트를 삭제할 수 없습니다.”

모든 질문과 ChatGPT와 공유된 텍스트는 사용자가 명시적으로 선택하지 않는 한 AI 모델을 훈련하고 개선하기 위해 보존된다는 점은 중요합니다. 다시 말해, 시스템에서 데이터를 완전히 지우는 것은 어렵거나 불가능합니다.

“안전하고 책임 있는 AI에 대한 우리의 약속의 일환으로, 우리는 시스템을 개선하고 콘텐츠가 우리의 정책 및 안전 요구 사항을 준수하는지 확인하기 위해 대화를 검토합니다… 귀하의 대화는 시스템 개선을 위해 AI 트레이너에 의해 검토될 수 있습니다.”라고 OpenAI는 웹사이트에서 명확히 설명합니다.

특히 OpenAI는 “모델 성능을 개선하기 위해 사용할 데이터를 통해 개인 식별 정보를 제거합니다. 또한 모델 성능 개선을 위한 노력에 대해 고객당 소량의 데이터 샘플만 사용합니다.”라고 주장합니다.

흥미롭게도, ChatGPT는 최근 유럽에서 데이터 수집 정책에 대한 많은 조사를 받고 있으며, 이탈리아는 프라이버시 문제로 인해 AI 챗봇을 일시적으로 금지했습니다. 독일도 이탈리아의 최근 ChatGPT 금지를 따를 수 있으며, 자국에서 AI 챗봇을 차단하는 유사한 조치를 취할 수 있습니다.