Slack сталкивается с критикой за использование данных клиентов для обучения моделей ИИ

Slack, облачная платформа для командной коммуникации, в настоящее время принадлежащая Salesforce, сталкивается с серьезной критикой своей проблемной политикой конфиденциальности в отношении данных для обучения ИИ.

Проблема привлекла внимание, когда пользователь Twitter по имени Гори Куин выделил часть политики конфиденциальности Slack.

В политике говорится, что данные клиентов из глобальных моделей Slack используются для обучения его продуктов/услуг ИИ/МЛ.

Компания, принадлежащая Salesforce, предложила только систему отказа, и данные клиентов использовались без надлежащего согласия пользователей.

Политика конфиденциальности также добавляет, что владельцы рабочих пространств могут отправить запрос по электронной почте, чтобы отказаться от программы.

После этого пользователи начали отказываться от опции обмена данными. Более того, пользователи требуют лучшего разъяснения о том, как Slack использует данные клиентов.

Согласно странице принципов конфиденциальности, системы Slack по умолчанию используют данные клиентов, такие как сообщения, контент и файлы.

Эти данные используются в дополнение к другой информации, такой как статистика использования.

Slack добавляет, что модели ИИ/МЛ будут использоваться для предоставления рекомендаций по каналам, результатов поиска, предложений эмодзи и автозаполнения.

Хотя Slack не первая компания, использующая данные клиентов для обучения ИИ, ее присвоение согласия пользователей является проблематичным. Пользователи озадачены тем, что их коммуникации в рабочем пространстве анализируются.

Более того, Slack включил эту опцию по умолчанию, вместо того чтобы запрашивать согласие. Отсутствие явного согласия в процессе дополнительно усложняется несоответствиями на странице политики конфиденциальности Slack.

Поскольку нет возможности отключить эту опцию в настройках рабочего пространства, владельцы должны отправить электронное письмо на [email protected], чтобы отказаться от этого процесса.

Даже на момент написания страница Принципов конфиденциальности говорит о том, что данные клиентов используются инструментами ИИ/МЛ. Однако маркетинговая страница Slack AI утверждает, что модели не используют данные клиентов.

Также стало известно, что политика конфиденциальности Slack не соответствует GDPR (Общему регламенту по защите данных) ЕС. Политика явно указывает, что согласие «не может быть подразумеваемым». Вместо этого оно «всегда должно быть дано через явное согласие».

В ответ на эти опасения Slack «обновил формулировки в наших Принципах конфиденциальности, чтобы прояснить, что Slack не использует данные клиентов для обучения LLM», - сказал представитель Salesforce изданию TechWorm.

Согласно обновленной политике, Slack AI не использует данные клиентов для обучения моделей LLM. Также добавляется, что интеллектуальные функции, такие как ранжирование, используют анонимизированные данные о поведении пользователей.

Slack также добавляет, что модели LLM/его собственные инструменты ИИ/МЛ не сохраняют данные клиентов.

Тем не менее, компания еще не объяснила, почему она использовала метод отказа вместо метода согласия (в соответствии с политикой GDPR).