Forscher verwendeten heimlich KI auf Reddit, was Empörung auslöste

Eine Gruppe von Forschern, die behauptet, von der Universität Zürich zu sein, steht in der Kritik, nachdem sie monatelange “unautorisierte” Experimente mit KI-generierten Kommentaren bei ahnungslosen Reddit-Nutzern im Change My View (CMV) Subreddit (r/ChangeMyView) durchgeführt hat.

Das Projekt, das darauf abzielte, die Überzeugungskraft großer Sprachmodelle (LLMs) zu untersuchen, wurde am Wochenende von den Moderatoren der CMV-Community des Subreddits enthüllt, die von den Forschern benachrichtigt wurden, nachdem diese ihre Forschung abgeschlossen hatten.

Anschließend veröffentlichten die Moderatoren eine öffentliche Mitteilung im Subreddit, begleitet von einem Entwurf des abgeschlossenen Forschungspapiers, in dem sie es als “psychologische Manipulation” ahnungsloser Nutzer verurteilten.

Inhaltsverzeichnis

• Was ist r/Changemyview?
• Reddit im Bild
• Forscher verteidigen ihr Experiment

Was ist r/Changemyview?

Für diejenigen, die es nicht wissen, r/changemyview, eines der beliebtesten Subreddits von Reddit mit 3,8 Millionen Mitgliedern, ermöglicht es den Teilnehmern, verschiedene Themen zu diskutieren, einschließlich Politik, Medien und Popkultur, um gegensätzliche Standpunkte zu verstehen.

Darüber hinaus teilen Nutzer persönliche Meinungen in Beiträgen, während andere versuchen, sie zu beeinflussen, ihre Haltung zu überdenken. Wenn ein Kommentator es schafft, die Sichtweise des ursprünglichen Nutzers zu ändern, wird ihm ein Delta-Symbol (?) als Zeichen der veränderten Perspektive verliehen.

Laut den Moderatoren nutzten die Forscher KI, um Tausende von personalisierten Kommentaren zu Nutzerbeiträgen zu erstellen, oft indem sie sensible Identitäten wie Überlebende sexueller Übergriffe, Trauma-Berater und Kritiker der Black Lives Matter-Bewegung nachahmten.

Diese KI-Personas wurden unter Verwendung persönlicher Informationen erstellt, die aus den Reddit-Historien der Nutzer abgeleitet wurden, einschließlich Geschlecht, Alter, Ethnie, Standort und politischer Orientierung, ohne deren Wissen oder Zustimmung.

Die Moderatoren erklärten, dass das Projekt gegen die Regeln des Subreddits verstieß, einschließlich eines strikten Verbots von nicht offengelegtem KI-Inhalt und der Verwendung von Bots. Mehrere Kommentare, die vom Forschungsteam erstellt wurden, wurden inzwischen gelöscht, da sie gegen die Nutzungsbedingungen der Seite verstießen, aber einige von ihnen sind noch in einem Archiv von 404 Media einsehbar.

“Die CMV-Regeln erlauben nicht die Verwendung von nicht offengelegtem KI-generiertem Inhalt oder Bots in unserem Sub. Die Forscher haben uns vor der Studie nicht kontaktiert, und wenn sie es getan hätten, hätten wir abgelehnt. Wir haben von den Forschern eine Entschuldigung gefordert und darum gebeten, dass diese Forschung nicht veröffentlicht wird, unter anderem Beschwerden. Wie unten besprochen, wurden unsere Bedenken von der Universität Zürich oder den Forschern nicht substanziell angesprochen,” fügte der Beitrag hinzu.

Nach der Offenlegung der Forschung reichten die Moderatoren von r/changemyview eine Ethikbeschwerde bei der Universität Zürich ein und forderten die Forscher auf, ihre Ergebnisse nicht zu veröffentlichen.

Reddit im Bild

Das rechtliche Team von Reddit hat ebenfalls stark reagiert und kontaktiert formell sowohl die Universität Zürich als auch das spezifische Forschungsteam, das beteiligt war, und fordert Verantwortung oder Korrekturmaßnahmen.

Der Chief Legal Officer Ben Lee beschrieb das Experiment als “moralisch und rechtlich zutiefst falsch” und als einen Verstoß gegen die allgemeinen Regeln von Reddit.

Er kündigte an, dass alle Konten, die mit dem Forschungsprojekt der Universität Zürich verbunden sind, gesperrt wurden. Lee betonte weiter das Engagement der Plattform, ihre Nutzer zu schützen und mit den Moderatoren zusammenzuarbeiten, um verbleibende KI-generierte Inhalte zu entfernen.

Forscher verteidigen ihr Experiment

In ihrer Verteidigung behaupteten die Forscher, dass ihr Experiment vom Ethikkomitee ihrer Universität genehmigt worden sei und dazu beitragen könne, Online-Communities vor böswilligem KI-Missbrauch zu schützen. Obwohl sie die Bedenken der Community anerkannten, argumentierten die Forscher, dass die Vorteile des Verständnisses der Überzeugungskraft von LLMs die Gefahren ihres unautorisierten Experiments überwogen.

Die Moderatoren von r/changemyview wiesen jedoch diese Rechtfertigung zurück und betonten, dass frühere Forschungen, einschließlich der von OpenAI-Forschern, das Subreddit “ohne Experimente an nicht einwilligenden menschlichen Probanden” untersucht haben.

“Die Leute kommen nicht hierher, um ihre Ansichten mit KI zu diskutieren oder um experimentiert zu werden,” betonten die Moderatoren in einem öffentlichen Beitrag. “Die Menschen, die unser Sub besuchen, verdienen einen Raum, der frei von dieser Art von Eindringen ist.”

Die Universität Zürich hat sich bisher nicht öffentlich zu der Kontroverse geäußert.