Slack Enfrenta Repercussão por Usar Dados de Clientes para Treinar Modelos de IA

Slack, a plataforma de comunicação em equipe baseada em nuvem atualmente propriedade da Salesforce, enfrenta uma grande repercussão devido à sua problemática política de privacidade em relação aos dados de treinamento de IA.

O problema ganhou destaque quando um usuário do Twitter chamado Gorey Quinn destacou uma parte da política de privacidade do Slack.

A política afirma que os dados dos clientes do Slack são usados para treinar seus produtos/serviços de IA/ML.

A empresa, de propriedade da Salesforce, ofereceu apenas um sistema de opt-out, e os dados dos clientes foram usados sem o devido consentimento dos usuários.

A política de privacidade acrescenta ainda que os proprietários de espaço de trabalho podem enviar um pedido por e-mail para optar por não participar do programa.

Após o problema, os usuários começaram a optar por não compartilhar dados. Além disso, os usuários exigem melhor esclarecimento sobre como o Slack usa os dados dos clientes.

De acordo com sua página de princípios de privacidade, os sistemas do Slack, por padrão, usam dados dos clientes, como mensagens, conteúdo e arquivos.

Esses dados estão sendo usados além de outras informações, como estatísticas de uso.

O Slack acrescenta que os modelos de IA/ML serão usados para fornecer recomendações de canais, resultados de pesquisa, sugestões de emojis e autocompletar.

Embora o Slack não seja a primeira empresa a usar dados de clientes para treinamento de IA, sua apropriação do consentimento do usuário é problemática. Os usuários estão perplexos com a ideia de que suas comunicações no espaço de trabalho estão sendo analisadas.

Mais importante ainda, o Slack ativou a opção por padrão em vez de pedir consentimento. A falta de consentimento explícito no processo é ainda mais complicada por inconsistências na página de política de privacidade do Slack.

Como não há como desativar a opção nas configurações do Espaço de Trabalho, os proprietários devem enviar um e-mail para [email protected] para optar por não participar desse processo.

Mesmo no momento da redação, a página de Princípios de Privacidade diz que os dados dos clientes estão sendo usados por ferramentas de IA/ML. No entanto, a página de marketing para o Slack AI afirma que os modelos não usam dados de clientes.

Também veio à tona que a política de privacidade do Slack não está em conformidade com o GDPR (Regulamento Geral sobre a Proteção de Dados) da UE. A política afirma explicitamente que o consentimento “não pode ser implícito.” Em vez disso, “deve sempre ser dado por meio de um opt-in.”

Em resposta a essas preocupações, o Slack “atualizou a linguagem em nossos Princípios de Privacidade para esclarecer que o Slack não usa dados de clientes para treinar LLMs,” disse um representante da Salesforce ao TechWorm.

De acordo com a política atualizada, o Slack AI não usa dados de clientes para treinar modelos LLM. Acrescenta que recursos inteligentes como classificação utilizam dados de comportamento de usuários desidentificados.

O Slack também acrescenta que os modelos LLM/seus próprios ferramentas de IA/ML não retêm dados de clientes.

No entanto, a empresa ainda não abordou por que usou um método de opt-out em vez de um método de opt-in (de acordo com a política do GDPR.)