해커가 2023년 침해 사건에서 OpenAI의 내부 AI 세부정보를 훔쳤다: 보고서

해커가 지난해 초 ChatGPT 제작사 OpenAI의 내부 메시징 시스템에 접근하여 회사의 인공지능(AI) 제품 디자인에 대한 정보를 훔쳤다고 The New York Times가 목요일 발표한 보고서에서 밝혔다.

해커는 OpenAI 직원들이 회사의 최신 기술 발전에 대해 논의하고 있던 내부 온라인 포럼에서 대화를 추출한 것으로 전해졌다. NYT는 이 문제에 정통한 두 사람을 인용하여 보도했다.

그러나 해커는 OpenAI가 AI 제품을 보관하고 구축하는 시스템에 접근할 수 없었다.

회사는 2023년 4월 전 직원 회의에서 보안 침해에 대한 정보를 직원들과 이사회에 공유했다.

그러나 보고서는 고객이나 파트너와 관련된 정보가 도난당하지 않았기 때문에 공개적으로 정보를 공유하지 않았다고 덧붙였다.

또한 OpenAI 경영진은 해커가 외국 정부와의 알려진 연결이 없는 독립적인 개인이라고 생각했기 때문에 이 사건을 국가 안보 위협으로 보지 않았다고 전해졌다.

샌프란시스코에 본사를 둔 이 회사는 침입에 대해 F.B.I.나 다른 법 집행 기관에 통보하지도 않았다.

OpenAI 대변인은 성명에서 “보안 사건”을 인정했지만 침해에 대한 추가 정보를 제공하지 않았다.

“작년에 이사회와 직원들에게 공유한 바와 같이, 우리는 근본적인 보안 문제를 식별하고 수정했으며 보안을 강화하는 데 계속 투자하고 있습니다.”라고 회사 대변인이 말했다.

올해 5월, OpenAI는 인터넷에서 “기만적 활동”을 위해 AI 모델을 악용하고자 했던 다섯 개의 비밀 영향력 작전을 차단했다고 밝혔다. 이는 고급 AI 기술의 잠재적 악용에 대한 우려가 커지고 있음을 강조한다.

AI 기술의 중요성이 커짐에 따라 AI 기업에 대한 공격은 계속되고 증가할 가능성이 있다고 사이버 보안 전문가이자 보안 회사 ImmuniWeb의 CEO인 Dr. Ilia Kolochenko가 경고했다.

“OpenAI가 아직 이 사건의 세부 사항을 확인하지 않았지만, 사건이 실제로 발생했을 가능성이 높으며 유일한 사건이 아닐 수 있습니다.

“전 세계 AI 경쟁은 많은 국가에 있어 국가 안보 문제로 부각되고 있으며, 따라서 국가 지원 사이버 범죄 집단과 용병들이 AI 공급업체, 즉 유능한 스타트업부터 Google이나 OpenAI와 같은 기술 대기업까지 공격하고 있습니다.”라고 그는 말했다.

Kolochenko는 해커들이 주로 기술 연구 및 노하우, 대형 언어 모델(LLM), 훈련 데이터의 출처, AI 공급업체의 고객 및 다양한 산업에서의 AI의 새로운 용도와 같은 귀중한 지적 재산을 훔치는 데 노력을 집중한다고 덧붙였다.

“더 정교한 사이버 위협 행위자들은 또한 침해된 AI 회사를 지속적으로 제어하고, 최근 서구 국가의 중요한 국가 인프라(CNI)를 겨냥한 대규모 해킹 캠페인과 유사하게 그들의 운영을 갑자기 중단하거나 심지어 종료할 수 있도록 은밀한 백도어를 심을 수 있습니다.”라고 그는 언급했다.

“모든 GenAI 공급업체의 기업 사용자는 LLM 훈련이나 미세 조정을 위해 그들의 독점 데이터를 공유하거나 접근을 허용할 때 특히 주의하고 신중해야 합니다. 그들의 데이터는 변호사-클라이언트 특권 정보와 주요 산업 또는 제약 회사의 영업 비밀에서 기밀 군사 정보에 이르기까지 AI에 굶주린 사이버 범죄자들의 표적이 되고 있습니다.”

AI 중심의 세계로 나아가면서 이러한 보고서는 고객과 파트너의 안전과 프라이버시를 보장하기 위해 조직이 강력한 사이버 보안 조치와 투명성을 필요로 한다는 경각심을 일깨우는 신호입니다.