Slack affronta reazioni negative per l'uso dei dati dei clienti per addestrare modelli AI

Slack, la piattaforma di comunicazione per team basata su cloud attualmente di proprietà di Salesforce, affronta significative critiche per la sua problematica politica sulla privacy riguardo ai dati di addestramento dell’AI.

La questione è emersa quando un utente di Twitter di nome Gorey Quinn ha evidenziato una parte della politica sulla privacy di Slack.

La politica afferma che i dati dei clienti vengono utilizzati dai modelli globali di Slack per addestrare i suoi prodotti/servizi AI/ML.

L’azienda di proprietà di Salesforce ha offerto solo un sistema di opt-out, e i dati dei clienti sono stati utilizzati senza il consenso adeguato degli utenti.

La politica sulla privacy aggiunge inoltre che i proprietari degli spazi di lavoro possono inviare una richiesta via email per rinunciare al programma.

A seguito della questione, gli utenti hanno iniziato a rinunciare all’opzione di condivisione dei dati. Inoltre, gli utenti richiedono una migliore chiarificazione su come Slack utilizza i dati dei clienti.

Secondo la sua pagina sui principi di privacy, i sistemi di Slack, per impostazione predefinita, utilizzano i dati dei clienti come messaggi, contenuti e file.

Questi dati vengono utilizzati insieme ad altre informazioni, come le statistiche di utilizzo.

Slack aggiunge che i modelli AI/ML saranno utilizzati per fornire raccomandazioni sui canali, risultati di ricerca, suggerimenti di emoji e completamento automatico.

Sebbene Slack non sia la prima azienda a utilizzare i dati dei clienti per l’addestramento dell’AI, la sua appropriazione del consenso degli utenti è problematica. Gli utenti sono sconcertati dall’idea che le loro comunicazioni nello spazio di lavoro vengano analizzate.

Più importante, Slack ha abilitato l’opzione per impostazione predefinita invece di chiedere il consenso. La mancanza di consenso esplicito nel processo è ulteriormente complicata da incoerenze nella pagina della politica sulla privacy di Slack.

Poiché non c’è modo di disattivare l’opzione nelle impostazioni dello spazio di lavoro, i proprietari devono inviare un’email a [email protected] per rinunciare a questo processo.

Anche al momento della scrittura, la pagina dei Principi di Privacy afferma che i dati dei clienti vengono utilizzati dagli strumenti AI/ML. Tuttavia, la pagina di marketing per Slack AI afferma che i modelli non utilizzano i dati dei clienti.

È emerso anche che la politica sulla privacy di Slack non è conforme al GDPR (Regolamento generale sulla protezione dei dati) dell’UE. La politica afferma esplicitamente che il consenso “non può essere implicito.” Invece, “deve sempre essere fornito tramite un opt-in.”

In risposta a queste preoccupazioni, Slack ha “aggiornato il linguaggio nei nostri Principi di Privacy per chiarire che Slack non utilizza i dati dei clienti per addestrare i LLM,” ha dichiarato un rappresentante di Salesforce a TechWorm.

Secondo la politica aggiornata, Slack AI non utilizza i dati dei clienti per addestrare i modelli LLM. Aggiunge che funzionalità intelligenti come il ranking utilizzano dati comportamentali degli utenti de-identificati.

Slack aggiunge anche che i modelli LLM/i propri strumenti AI/ML non conservano i dati dei clienti.

Tuttavia, l’azienda non ha ancora affrontato il motivo per cui ha utilizzato un metodo di opt-out invece di un metodo di opt-in (secondo la politica GDPR).