I ricercatori hanno segretamente utilizzato l'IA su Reddit, scatenando l'indignazione

Un gruppo di ricercatori, che afferma di provenire dall’Università di Zurigo, è sotto accusa dopo aver condotto mesi di esperimenti “non autorizzati” utilizzando commenti generati da IA su utenti ignari di Reddit nel subreddit Change My View (CMV) (r/ChangeMyView).

Il progetto, volto a studiare il potere persuasivo dei modelli di linguaggio di grandi dimensioni (LLM), è stato rivelato dai moderatori del subreddit della comunità CMV nel fine settimana, che sono stati informati dai ricercatori dopo aver completato la loro ricerca.

Successivamente, i moderatori hanno pubblicato un avviso pubblico sul subreddit, accompagnato da una bozza del documento di ricerca completato, condannandolo come una “manipolazione psicologica” di utenti ignari.

Indice dei Contenuti

• Cos’è r/Changemyview?
• Reddit nel quadro
• I ricercatori difendono il loro esperimento

Cos’è r/Changemyview?

Per chi non lo sapesse, r/changemyview, uno dei subreddit più popolari di Reddit con 3,8 milioni di membri, consente ai partecipanti di discutere vari argomenti, tra cui politica, media e cultura popolare, per comprendere i punti di vista opposti.

Inoltre, gli utenti condividono opinioni personali nei post, mentre altri rispondono nel tentativo di influenzarli a riconsiderare la loro posizione. Se un commentatore riesce a cambiare il punto di vista dell’utente originale, riceve un simbolo delta (?) come segno di cambiamento di prospettiva.

Secondo i moderatori, i ricercatori hanno utilizzato l’IA per creare migliaia di commenti personalizzati ai post degli utenti, spesso impersonando identità sensibili come sopravvissuti a violenze sessuali, consulenti per traumi e critici del movimento Black Lives Matter.

Queste persone IA sono state create utilizzando informazioni personali dedotte dalle storie di Reddit degli utenti, inclusi genere, età, etnia, posizione e orientamento politico, senza la loro conoscenza o consenso.

I moderatori hanno dichiarato che il progetto ha violato le regole del subreddit, inclusa una rigorosa proibizione di contenuti generati da IA non divulgati e l’uso di bot. Diversi commenti creati dal team di ricerca sono stati successivamente rimossi per violazione dei Termini di Servizio del sito, ma alcuni di essi possono ancora essere visualizzati in un archivio creato da 404 Media.

“Le regole di CMV non consentono l’uso di contenuti generati da IA non divulgati o bot nel nostro subreddit. I ricercatori non ci hanno contattato prima dello studio e se lo avessero fatto, avremmo rifiutato. Abbiamo richiesto una scusa ai ricercatori e chiesto che questa ricerca non venga pubblicata, tra altre lamentele. Come discusso di seguito, le nostre preoccupazioni non sono state affrontate in modo sostanziale dall’Università di Zurigo o dai ricercatori,” ha aggiunto il post.

Dopo la divulgazione della ricerca, i moderatori di r/changemyview hanno presentato un reclamo etico all’Università di Zurigo e hanno esortato i ricercatori a non pubblicare i loro risultati.

Reddit nel quadro

Il team legale di Reddit ha anche reagito in modo forte e sta contattando formalmente sia l’Università di Zurigo che il specifico team di ricerca coinvolto, richiedendo responsabilità o azioni correttive.

Il Chief Legal Officer Ben Lee ha descritto l’esperimento come “profondamente sbagliato sia a livello morale che legale” e una violazione delle regole generali di Reddit.

Ha annunciato che tutti gli account legati allo sforzo di ricerca dell’Università di Zurigo sono stati bannati. Lee ha ulteriormente sottolineato l’impegno della piattaforma a proteggere i propri utenti e a lavorare con i moderatori per rimuovere eventuali contenuti generati da IA rimanenti.

I ricercatori difendono il loro esperimento

A propria difesa, i ricercatori hanno affermato che il loro esperimento era stato approvato dal comitato etico della loro università e potrebbe aiutare le comunità online a proteggersi contro l’uso malevolo dell’IA. Sebbene abbiano riconosciuto le preoccupazioni della comunità, i ricercatori hanno sostenuto che i benefici della comprensione del potere persuasivo degli LLM superavano i pericoli del loro esperimento non autorizzato.

Tuttavia, i moderatori di r/changemyview hanno respinto questa giustificazione, sottolineando che ricerche precedenti, inclusa quella dei ricercatori di OpenAI, hanno studiato il subreddit “senza sperimentare su soggetti umani non consenzienti.”

“Le persone non vengono qui per discutere le proprie opinioni con l’IA o per essere sperimentate,” hanno sottolineato i moderatori in un post pubblico. “Le persone che visitano il nostro subreddit meritano uno spazio libero da questo tipo di intrusione.”

L’Università di Zurigo deve ancora rispondere pubblicamente alla controversia.