Slack fait face à des critiques pour avoir utilisé les données des clients pour former des modèles d'IA

Slack, la plateforme de communication d’équipe basée sur le cloud actuellement détenue par Salesforce, fait face à des critiques importantes concernant sa politique de confidentialité problématique concernant les données d’entraînement de l’IA.

Le problème a été mis en lumière lorsqu’un utilisateur de Twitter nommé Gorey Quinn a souligné une partie de la politique de confidentialité de Slack.

La politique indique que les données des clients de Slack sont utilisées pour former ses produits/services d’IA/ML.

La société détenue par Salesforce n’a proposé qu’un système de désinscription, et les données des clients ont été utilisées sans le consentement approprié des utilisateurs.

La politique de confidentialité ajoute en outre que les propriétaires d’espace de travail peuvent envoyer une demande par e-mail pour se désinscrire du programme.

Suite à ce problème, les utilisateurs ont commencé à se désinscrire de l’option de partage de données. De plus, les utilisateurs exigent une meilleure clarification sur la manière dont Slack utilise les données des clients.

Selon sa page des principes de confidentialité, les systèmes de Slack utilisent par défaut les données des clients telles que les messages, le contenu et les fichiers.

Ces données sont utilisées en plus d’autres informations, telles que les statistiques d’utilisation.

Slack ajoute que les modèles d’IA/ML seront utilisés pour fournir des recommandations de canaux, des résultats de recherche, des suggestions d’émojis et de l’autocomplétion.

Bien que Slack ne soit pas la première entreprise à utiliser les données des clients pour l’entraînement de l’IA, son appropriation du consentement des utilisateurs est problématique. Les utilisateurs sont perplexes face à l’idée que leurs communications de travail soient analysées.

Plus important encore, Slack a activé l’option par défaut au lieu de demander un consentement. Le manque de consentement explicite dans le processus est encore compliqué par des incohérences dans la page de politique de confidentialité de Slack.

Comme il n’y a aucun moyen de désactiver l’option dans les paramètres de l’espace de travail, les propriétaires doivent envoyer un e-mail à [email protected] pour se désinscrire de ce processus.

Même au moment de la rédaction, la page des principes de confidentialité indique que les données des clients sont utilisées par des outils d’IA/ML. Cependant, la page marketing pour Slack AI affirme que les modèles n’utilisent pas les données des clients.

Il a également été révélé que la politique de confidentialité de Slack ne respecte pas le RGPD (Règlement général sur la protection des données) de l’UE. La politique indique explicitement que le consentement « ne peut pas être implicite ». Au lieu de cela, il « doit toujours être donné par un opt-in ».

En réponse à ces préoccupations, Slack a « mis à jour le langage de nos principes de confidentialité pour clarifier que Slack n’utilise pas les données des clients pour former des LLM », a déclaré un représentant de Salesforce à TechWorm.

Selon la politique mise à jour, Slack AI n’utilise pas les données des clients pour former des modèles LLM. Il ajoute que des fonctionnalités intelligentes comme le classement utilisent des données de comportement utilisateur dé-identifiées.

Slack ajoute également que les modèles LLM/ses propres outils d’IA/ML ne conservent pas les données des clients.

Cependant, la société n’a pas encore expliqué pourquoi elle a utilisé une méthode de désinscription au lieu d’une méthode d’opt-in (selon la politique RGPD).