Investigadores Usaron IA Secretamente en Reddit, Provocando Indignación

Un grupo de investigadores, que afirma ser de la Universidad de Zúrich, está bajo fuego tras llevar a cabo meses de un experimento “no autorizado” utilizando comentarios generados por IA en usuarios desprevenidos de Reddit en el subreddit Change My View (CMV) (r/ChangeMyView).

El proyecto, destinado a estudiar el poder persuasivo de los modelos de lenguaje grandes (LLMs), fue revelado por los moderadores del subreddit de la comunidad CMV durante el fin de semana, quienes fueron notificados por los investigadores después de completar su investigación.

Posteriormente, los moderadores publicaron un aviso público en el subreddit, acompañado de un borrador del trabajo de investigación completado, condenándolo como una “manipulación psicológica” de usuarios desprevenidos.

Tabla de Contenidos

• ¿Qué es r/Changemyview?
• Reddit en la Imagen
• Investigadores Defienden su Experimento

¿Qué es r/Changemyview?

Para aquellos que no lo saben, r/changemyview, uno de los subreddits más populares de Reddit con 3.8 millones de miembros, permite a los participantes discutir varios temas, incluyendo política, medios y cultura popular, para entender puntos de vista opuestos.

Además, los usuarios comparten opiniones personales en publicaciones, mientras que otros responden en un esfuerzo por influir en ellos para que reconsideren su postura. Si un comentarista tiene éxito en cambiar el punto de vista del usuario original, se le otorga un símbolo delta (?) como marca de perspectiva cambiada.

Según los moderadores, los investigadores utilizaron IA para crear miles de comentarios personalizados en las publicaciones de los usuarios, a menudo impersonando identidades sensibles como sobrevivientes de agresión sexual, consejeros de trauma y críticos de Black Lives Matter.

Estas personas de IA fueron creadas utilizando información personal inferida de los historiales de Reddit de los usuarios, incluyendo género, edad, etnicidad, ubicación y orientación política, sin su conocimiento o consentimiento.

Los moderadores afirmaron que el proyecto violó las reglas del subreddit, incluyendo una estricta prohibición de contenido de IA no divulgado y el uso de bots. Varios comentarios creados por el equipo de investigación han sido eliminados desde entonces por violar los Términos de Servicio del sitio, pero algunos de ellos aún se pueden ver en un archivo creado por 404 Media.

“Las reglas de CMV no permiten el uso de contenido generado por IA no divulgado o bots en nuestro sub. Los investigadores no se pusieron en contacto con nosotros antes del estudio y si lo hubieran hecho, habríamos declinado. Hemos solicitado una disculpa a los investigadores y pedimos que esta investigación no se publique, entre otras quejas. Como se discutió a continuación, nuestras preocupaciones no han sido abordadas sustantivamente por la Universidad de Zúrich o los investigadores,” agregó la publicación.

Tras la divulgación de la investigación, los moderadores de r/changemyview presentaron una queja ética ante la Universidad de Zúrich y instaron a los investigadores a no publicar sus hallazgos.

Reddit en la Imagen

El equipo legal de Reddit también ha reaccionado con fuerza y está contactando formalmente tanto a la Universidad de Zúrich como al equipo de investigación específico involucrado, exigiendo responsabilidad o acción correctiva.

El Director Legal Ben Lee describió el experimento como “profundamente incorrecto tanto a nivel moral como legal” y una violación de las reglas generales del sitio de Reddit.

Anunció que todas las cuentas vinculadas al esfuerzo de investigación de la Universidad de Zúrich habían sido prohibidas. Lee enfatizó además el compromiso de la plataforma de proteger a sus usuarios y trabajar con los moderadores para eliminar cualquier contenido generado por IA que aún permanezca.

Investigadores Defienden su Experimento

En su defensa, los investigadores afirmaron que su experimento había sido aprobado por el comité de ética de su universidad y podría ayudar a las comunidades en línea a protegerse contra el uso malicioso de la IA. Aunque reconocieron las preocupaciones de la comunidad, los investigadores argumentaron que los beneficios de entender el poder persuasivo de los LLMs superaban los peligros de su experimento no autorizado.

Sin embargo, los moderadores de r/changemyview rechazaron esta justificación, enfatizando que investigaciones previas, incluyendo las de investigadores de OpenAI, han estudiado el subreddit “sin experimentar en sujetos humanos no consentidos.”

“Las personas no vienen aquí para discutir sus opiniones con IA o para ser experimentadas,” enfatizaron los moderadores en una publicación pública. “Las personas que visitan nuestro sub merecen un espacio libre de este tipo de intrusión.”

La Universidad de Zúrich aún no ha respondido públicamente a la controversia.