Slack enfrenta críticas por usar datos de clientes para entrenar modelos de IA

Slack, la plataforma de comunicación en equipo basada en la nube actualmente propiedad de Salesforce, enfrenta una importante oposición debido a su problemática política de privacidad respecto a los datos de entrenamiento de IA.

El problema cobró relevancia cuando un usuario de Twitter llamado Gorey Quinn destacó una parte de la política de privacidad de Slack.

La política establece que los datos de los clientes de Slack se utilizan para entrenar sus productos/servicios de IA/ML.

La empresa, propiedad de Salesforce, ofreció solo un sistema de exclusión, y los datos de los clientes se utilizaron sin el consentimiento adecuado de los usuarios.

La política de privacidad agrega que los propietarios de los espacios de trabajo pueden enviar una solicitud por correo electrónico para optar por no participar en el programa.

Tras el problema, los usuarios han comenzado a optar por no participar en la opción de compartir datos. Además, los usuarios exigen una mejor aclaración sobre cómo Slack utiliza los datos de los clientes.

Según su página de principios de privacidad, los sistemas de Slack, por defecto, utilizan datos de clientes como mensajes, contenido y archivos.

Estos datos se utilizan además de otra información, como estadísticas de uso.

Slack agrega que los modelos de IA/ML se utilizarán para proporcionar recomendaciones de canales, resultados de búsqueda, sugerencias de emojis y autocompletado.

Si bien Slack no es la primera empresa en utilizar datos de clientes para el entrenamiento de IA, su apropiación del consentimiento del usuario es problemática. Los usuarios están desconcertados por la idea de que sus comunicaciones en el espacio de trabajo están siendo analizadas.

Más importante aún, Slack ha habilitado la opción por defecto en lugar de pedir consentimiento. La falta de consentimiento explícito en el proceso se complica aún más por las inconsistencias en la página de política de privacidad de Slack.

Como no hay forma de desactivar la opción en la configuración del espacio de trabajo, los propietarios deben enviar un correo electrónico a [email protected] para optar por no participar en este proceso.

Incluso en el momento de escribir esto, la página de Principios de Privacidad dice que los datos de los clientes están siendo utilizados por herramientas de IA/ML. Sin embargo, la página de marketing de Slack AI afirma que los modelos no utilizan datos de clientes.

También ha salido a la luz que la política de privacidad de Slack no cumple con el GDPR (Reglamento General de Protección de Datos) de la UE. La política establece explícitamente que el consentimiento “no puede ser implícito.” En cambio, “siempre debe ser otorgado a través de un opt-in.”

En respuesta a estas preocupaciones, Slack ha “actualizado el lenguaje en nuestros Principios de Privacidad para aclarar que Slack no utiliza datos de clientes para entrenar LLMs,” dijo un representante de Salesforce a TechWorm.

Según la política actualizada, Slack AI no utiliza datos de clientes para entrenar modelos LLM. Agrega que características inteligentes como el ranking utilizan datos de comportamiento de usuarios desidentificados.

Slack también agrega que los modelos LLM/sus propias herramientas de IA/ML no retienen datos de clientes.

Sin embargo, la empresa aún no ha abordado por qué ha utilizado un método de exclusión en lugar de un método de inclusión (según la política del GDPR).