연구자들이 레딧에서 비밀리에 AI를 사용하여 분노를 촉발하다

취리히 대학교 소속이라고 주장하는 연구자 그룹이, 레딧의 Change My View (CMV) 서브레딧(r/ChangeMyView)에서 무고한 레딧 사용자들에게 AI 생성 댓글을 사용한 “무단” 실험을 몇 달간 진행한 후 비난을 받고 있습니다.

대규모 언어 모델(LLM)의 설득력 있는 힘을 연구하기 위한 이 프로젝트는, 연구자들이 연구를 완료한 후 CMV 커뮤니티의 서브레딧 관리자들에게 알려지면서 드러났습니다.

그 후, 관리자들은 서브레딧에 공개 공지를 게시하고, 완료된 연구 논문의 초안을 첨부하여 이를 무고한 사용자에 대한 “심리적 조작”으로 비난했습니다.

목차

• r/Changemyview란?
• 레딧의 상황
• 연구자들의 실험 방어

r/Changemyview란?

모르는 분들을 위해, r/changemyview는 380만 명의 회원을 보유한 레딧에서 가장 인기 있는 서브레딧 중 하나로, 참가자들이 정치, 미디어, 대중 문화 등 다양한 주제를 논의하여 반대 의견을 이해할 수 있도록 합니다.

또한, 사용자들은 게시물에 개인적인 의견을 공유하고, 다른 사용자들은 그들의 입장을 재고하도록 영향을 미치기 위해 응답합니다. 댓글 작성자가 원래 사용자의 관점을 변경하는 데 성공하면, 그들은 변경된 관점을 나타내는 델타 기호(?)를 받습니다.

관리자들에 따르면, 연구자들은 AI를 사용하여 사용자 게시물에 대한 수천 개의 개인화된 댓글을 생성했으며, 종종 성폭력 생존자, 트라우마 상담사 및 Black Lives Matter 비평가와 같은 민감한 정체성을 가장했습니다.

이러한 AI 페르소나는 사용자들의 레딧 기록에서 추론된 개인 정보를 사용하여 생성되었으며, 성별, 나이, 인종, 위치 및 정치적 성향을 포함하되, 그들의 지식이나 동의 없이 이루어졌습니다.

관리자들은 이 프로젝트가 서브레딧 규칙을 위반했다고 밝혔으며, 여기에는 공개되지 않은 AI 콘텐츠 및 봇 사용에 대한 엄격한 금지가 포함됩니다. 연구팀이 생성한 여러 댓글은 사이트의 서비스 약관을 위반하여 삭제되었지만, 일부는 404 Media가 생성한 아카이브에서 여전히 볼 수 있습니다.

“CMV 규칙은 우리 서브에서 공개되지 않은 AI 생성 콘텐츠나 봇의 사용을 허용하지 않습니다. 연구자들은 연구 전에 우리에게 연락하지 않았으며, 만약 그들이 연락했다면 우리는 거절했을 것입니다. 우리는 연구자들에게 사과를 요청했으며, 이 연구가 발표되지 않도록 요청했습니다. 아래에서 논의된 바와 같이, 우리의 우려는 취리히 대학교나 연구자들에 의해 실질적으로 해결되지 않았습니다.”라고 게시물은 덧붙였습니다.

연구 공개 이후, r/changemyview 관리자들은 취리히 대학교에 윤리적 불만을 제기하고 연구자들에게 그들의 발견을 발표하지 말 것을 촉구했습니다.

레딧의 상황

레딧의 법무팀도 강력히 반응하며, 취리히 대학교와 관련된 특정 연구팀에 공식적으로 연락하여 책임을 요구하거나 시정 조치를 요구하고 있습니다.

법무 책임자 벤 리는 이 실험을 “도덕적 및 법적 차원에서 매우 잘못된 일”이라고 설명하며, 레딧의 사이트 전반에 걸친 규칙을 위반했다고 밝혔습니다.

그는 취리히 대학교 연구 노력과 관련된 모든 계정이 금지되었다고 발표했습니다. 리는 또한 플랫폼이 사용자 보호에 대한 약속을 강조하며, 남아 있는 AI 생성 콘텐츠를 제거하기 위해 관리자들과 협력하고 있다고 덧붙였습니다.

연구자들의 실험 방어

연구자들은 그들의 실험이 대학의 윤리 위원회에 의해 승인되었으며, 온라인 커뮤니티가 악의적인 AI 남용으로부터 보호하는 데 도움이 될 수 있다고 주장했습니다. 그들은 커뮤니티의 우려를 인정했지만, LLM의 설득력 있는 힘을 이해하는 것의 이점이 그들의 무단 실험의 위험을 능가한다고 주장했습니다.

그러나 r/changemyview 관리자들은 이 정당성을 거부하며, OpenAI 연구자들에 의한 이전 연구가 “비동의 인간 대상에 대한 실험 없이 서브레딧을 연구했다”고 강조했습니다.

“사람들은 AI와 의견을 논의하거나 실험을 당하기 위해 이곳에 오지 않습니다.”라고 관리자들은 공개 게시물에서 강조했습니다. “우리 서브를 방문하는 사람들은 이러한 유형의 침해가 없는 공간을 받을 자격이 있습니다.”

취리히 대학교는 이 논란에 대해 아직 공개적으로 응답하지 않았습니다.