슬랙, 고객 데이터를 AI 모델 훈련에 사용해 반발에 직면하다

슬랙(Slack), 현재 세일즈포스(Salesforce)가 소유한 클라우드 기반 팀 커뮤니케이션 플랫폼은 AI 훈련 데이터와 관련된 문제적인 개인정보 보호 정책으로 인해 심각한 반발에 직면하고 있습니다.

이 문제는 고리 퀸(Gorey Quinn)이라는 트위터 사용자가 슬랙의 개인정보 보호 정책의 일부를 강조하면서 주목을 받게 되었습니다.

정책에 따르면, 슬랙의 글로벌 모델에서 고객 데이터를 사용하여 AI/ML 제품/서비스를 훈련합니다.

세일즈포스 소속 회사는 단지 옵트아웃(opt-out) 시스템만을 제공했으며, 고객 데이터는 사용자로부터 적절한 동의 없이 사용되었습니다.

개인정보 보호 정책은 또한 작업 공간 소유자가 프로그램에서 옵트아웃하기 위해 이메일 요청을 보낼 수 있다고 추가합니다.

이 문제 이후, 사용자들은 데이터 공유 옵션에서 옵트아웃하기 시작했습니다. 더욱이, 사용자들은 슬랙이 고객 데이터를 어떻게 사용하는지에 대한 더 나은 설명을 요구하고 있습니다.

슬랙의 개인정보 보호 원칙 페이지에 따르면, 슬랙 시스템은 기본적으로 메시지, 콘텐츠 및 파일과 같은 고객 데이터를 사용합니다.

이 데이터는 사용 통계와 같은 다른 정보와 함께 사용되고 있습니다.

슬랙은 AI/ML 모델이 채널 추천, 검색 결과, 이모지 제안 및 자동 완성을 제공하는 데 사용될 것이라고 추가합니다.

슬랙은 고객 데이터를 AI 훈련에 사용하는 첫 번째 회사는 아니지만, 사용자 동의의 적절한 사용은 문제가 됩니다. 사용자들은 자신의 작업 공간 커뮤니케이션이 분석되고 있다는 생각에 혼란스러워하고 있습니다.

더욱이, 슬랙은 동의를 요청하는 대신 기본적으로 이 옵션을 활성화했습니다. 이 과정에서 명시적인 동의의 부족은 슬랙의 개인정보 보호 정책 페이지의 불일치로 인해 더욱 복잡해집니다.

작업 공간 설정에서 이 옵션을 끌 방법이 없기 때문에 소유자는 [email protected]에 이메일을 보내 이 프로세스에서 옵트아웃해야 합니다.

작성 시점에서도 개인정보 보호 원칙 페이지는 고객 데이터가 AI/ML 도구에 의해 사용되고 있다고 명시하고 있습니다. 그러나 슬랙 AI의 마케팅 페이지는 모델이 고객 데이터를 사용하지 않는다고 주장합니다.

슬랙의 개인정보 보호 정책이 EU의 GDPR(일반 데이터 보호 규정)을 준수하지 않는 것으로 드러났습니다. 이 정책은 동의가 “암시될 수 없다”고 명시하고 있습니다. 대신, “항상 옵트인(opt-in)을 통해 제공되어야 한다”고 합니다.

이러한 우려에 대한 응답으로, 슬랙은 “슬랙이 고객 데이터를 LLM 훈련에 사용하지 않는다는 것을 명확히 하기 위해 개인정보 보호 원칙의 언어를 업데이트했다”고 세일즈포스 대변인이 TechWorm에 전했습니다.

업데이트된 정책에 따르면, 슬랙 AI는 고객 데이터를 LLM 모델 훈련에 사용하지 않습니다. 또한 순위 매기기와 같은 지능형 기능은 비식별화된 사용자 행동 데이터를 사용한다고 추가합니다.

슬랙은 또한 LLM 모델/자체 AI/ML 도구가 고객 데이터를 보유하지 않는다고 덧붙입니다.

그러나 회사는 GDPR 정책에 따라 옵트인 방법 대신 옵트아웃 방법을 사용한 이유에 대해서는 아직 설명하지 않았습니다.