Des chercheurs ont secrètement utilisé l'IA sur Reddit, provoquant l'indignation

Un groupe de chercheurs, prétendant venir de l’Université de Zurich, est sous le feu des critiques après avoir mené des mois d’expérimentations “non autorisées” en utilisant des commentaires générés par l’IA sur des utilisateurs de Reddit sans méfiance dans le subreddit Change My View (CMV) (r/ChangeMyView).

Le projet, visant à étudier le pouvoir persuasif des grands modèles de langage (LLM), a été révélé par les modérateurs du subreddit de la communauté CMV ce week-end, qui ont été informés par les chercheurs après l’achèvement de leur recherche.

Par la suite, les modérateurs ont publié un avis public sur le subreddit, accompagné d’un brouillon du document de recherche terminé, le condamnant comme une “manipulation psychologique” des utilisateurs sans méfiance.

Table des matières

• Qu’est-ce que r/Changemyview ?
• Reddit dans le tableau
• Les chercheurs défendent leur expérience

Qu’est-ce que r/Changemyview ?

Pour ceux qui ne le savent pas, r/changemyview, l’un des subreddits les plus populaires de Reddit avec 3,8 millions de membres, permet aux participants de discuter de divers sujets, y compris la politique, les médias et la culture populaire, afin de comprendre des points de vue opposés.

De plus, les utilisateurs partagent des opinions personnelles dans des publications, tandis que d’autres répondent dans le but de les influencer à reconsidérer leur position. Si un commentateur réussit à changer le point de vue de l’utilisateur d’origine, il reçoit un symbole delta (?) comme marque de changement de perspective.

Selon les modérateurs, les chercheurs ont utilisé l’IA pour créer des milliers de commentaires personnalisés sur les publications des utilisateurs, souvent en usurpant des identités sensibles telles que des survivants d’agressions sexuelles, des conseillers en traumatologie et des critiques de Black Lives Matter.

Ces personas d’IA ont été créés en utilisant des informations personnelles déduites des historiques Reddit des utilisateurs, y compris le sexe, l’âge, l’ethnicité, la localisation et l’orientation politique, sans leur connaissance ni leur consentement.

Les modérateurs ont déclaré que le projet violait les règles du subreddit, y compris une interdiction stricte sur le contenu généré par l’IA non divulgué et l’utilisation de bots. Plusieurs commentaires créés par l’équipe de recherche ont depuis été supprimés pour violation des Conditions d’utilisation du site, mais certains d’entre eux peuvent encore être consultés dans une archive créée par 404 Media.

“Les règles de CMV n’autorisent pas l’utilisation de contenu généré par l’IA non divulgué ou de bots sur notre subreddit. Les chercheurs ne nous ont pas contactés avant l’étude et s’ils l’avaient fait, nous aurions refusé. Nous avons demandé des excuses aux chercheurs et demandé que cette recherche ne soit pas publiée, parmi d’autres plaintes. Comme discuté ci-dessous, nos préoccupations n’ont pas été substantiellement abordées par l’Université de Zurich ou les chercheurs,” a ajouté le post.

Suite à la divulgation de la recherche, les modérateurs de r/changemyview ont déposé une plainte éthique auprès de l’Université de Zurich et ont exhorté les chercheurs à ne pas publier leurs résultats.

Reddit dans le tableau

L’équipe juridique de Reddit a également réagi fortement et contacte formellement à la fois l’Université de Zurich et l’équipe de recherche spécifique impliquée, exigeant des comptes ou des actions correctives.

Le directeur juridique Ben Lee a décrit l’expérience comme “profondément erronée tant sur le plan moral que légal” et comme une violation des règles générales de Reddit.

Il a annoncé que tous les comptes liés à l’effort de recherche de l’Université de Zurich avaient été bannis. Lee a en outre souligné l’engagement de la plateforme à protéger ses utilisateurs et à travailler avec les modérateurs pour supprimer tout contenu généré par l’IA restant.

Les chercheurs défendent leur expérience

En sa défense, les chercheurs ont affirmé que leur expérience avait été approuvée par le comité d’éthique de leur université et pourrait aider les communautés en ligne à se protéger contre l’utilisation malveillante de l’IA. Bien qu’ils aient reconnu les préoccupations de la communauté, les chercheurs ont soutenu que les avantages de comprendre le pouvoir persuasif des LLM l’emportaient sur les dangers de leur expérience non autorisée.

Cependant, les modérateurs de r/changemyview ont rejeté cette justification, soulignant que des recherches antérieures, y compris celles des chercheurs d’OpenAI, ont étudié le subreddit “sans expérimenter sur des sujets humains non consentants.”

“Les gens ne viennent pas ici pour discuter de leurs opinions avec l’IA ou pour être expérimentés,” ont souligné les modérateurs dans un post public. “Les personnes qui visitent notre subreddit méritent un espace exempt de ce type d’intrusion.”

L’Université de Zurich n’a pas encore répondu publiquement à la controverse.