研究者たちがRedditでAIを秘密裏に使用し、怒りを引き起こす

スイスのチューリッヒ大学の研究者を名乗るグループが、無防備なRedditユーザーに対してAI生成のコメントを使用した「無許可」の実験を数ヶ月間行ったとして非難されています。この実験は、Change My View (CMV) サブレディット (r/ChangeMyView) で行われました。

このプロジェクトは、大規模言語モデル (LLM) の説得力を研究することを目的としており、研究者が研究を完了した後にCMVコミュニティのサブレディットのモデレーターに通知したことで明らかになりました。

その後、モデレーターはサブレディットに公開通知を発表し、完成した研究論文の草案を添付し、無防備なユーザーに対する「心理的操作」として非難しました。

目次

• r/Changemyviewとは？
• Redditの状況
• 研究者たちの実験擁護

r/Changemyviewとは？

知らない方のために、r/changemyviewは、380万人のメンバーを持つRedditの最も人気のあるサブレディットの一つで、参加者が政治、メディア、ポップカルチャーなどのさまざまなトピックについて議論し、対立する視点を理解することを目的としています。

さらに、ユーザーは投稿で個人的な意見を共有し、他のユーザーはその意見を再考させるために応答します。コメント者が元のユーザーの視点を変えることに成功すると、変更された視点の印としてデルタシンボル (?) が授与されます。

モデレーターによると、研究者たちはAIを利用してユーザーの投稿に対して数千の個別化されたコメントを作成し、しばしば性的暴力の生存者、トラウマカウンセラー、Black Lives Matterの批評家などの敏感なアイデンティティを偽装していました。

これらのAIペルソナは、ユーザーのReddit履歴から推測された個人情報（性別、年齢、民族、場所、政治的傾向など）を使用して作成され、ユーザーの知らないところで行われました。

モデレーターは、このプロジェクトがサブレディットのルールに違反しており、未開示のAIコンテンツとボットの使用に対する厳しい禁止が含まれていると述べました。研究チームによって作成されたいくつかのコメントは、サイトの利用規約に違反して削除されましたが、その一部は404 Mediaによって作成されたアーカイブでまだ見ることができます。

「CMVのルールでは、未開示のAI生成コンテンツやボットの使用を許可していません。研究者たちは研究の前に私たちに連絡をしませんでした。もし連絡があれば、私たちは拒否していたでしょう。私たちは研究者に謝罪を求め、この研究が公開されないようにお願いしました。他にもいくつかの苦情があります。以下に述べるように、私たちの懸念はチューリッヒ大学や研究者によって実質的に対処されていません」と投稿に追加されました。

研究の開示後、r/changemyviewのモデレーターはチューリッヒ大学に倫理的な苦情を申し立て、研究者たちに発見を公開しないように促しました。

Redditの状況

Redditの法務チームも強く反応し、チューリッヒ大学と関与した特定の研究チームに正式に連絡を取り、責任を求めたり是正措置を要求したりしています。

最高法務責任者のベン・リーは、この実験を「道徳的にも法的にも深く間違っている」とし、Redditの全体的なルールに違反していると述べました。

彼は、チューリッヒ大学の研究に関連するすべてのアカウントが禁止されたことを発表しました。リーはさらに、プラットフォームがユーザーを保護することにコミットしており、モデレーターと協力して残りのAI生成コンテンツを削除することを強調しました。

研究者たちの実験擁護

研究者たちは、自らの実験が大学の倫理委員会によって承認されており、オンラインコミュニティが悪意のあるAIの悪用から保護されるのに役立つ可能性があると主張しました。彼らはコミュニティの懸念を認めたものの、LLMの説得力を理解することの利点が無許可の実験の危険を上回ると主張しました。

しかし、r/changemyviewのモデレーターはこの正当化を拒否し、OpenAIの研究者による以前の研究を含め、サブレディットを「非同意の人間被験者に対して実験を行うことなく研究している」と強調しました。

「人々はAIと自分の意見を議論するためにここに来ているわけではなく、実験されるために来ているわけではありません」とモデレーターは公開投稿で強調しました。「私たちのサブを訪れる人々は、この種の侵入から自由な空間に値します。」

チューリッヒ大学は、この論争に対してまだ公に反応していません。