Исследователи тайно использовали ИИ на Reddit, вызвав возмущение

Группа исследователей, утверждающих, что они из Цюрихского университета, подверглась критике после проведения месяцев “незаконного” эксперимента с использованием комментариев, сгенерированных ИИ, на ничего не подозревающих пользователей Reddit в сабреддите Change My View (CMV) (r/ChangeMyView).

Проект, направленный на изучение убедительной силы больших языковых моделей (LLMs), был раскрыт модераторами сабреддита CMV в выходные, которые были уведомлены исследователями после завершения их исследования.

В результате модераторы опубликовали публичное уведомление на сабреддите, сопроводив его черновиком завершенной исследовательской работы, осуждая его как “психологическую манипуляцию” ничего не подозревающими пользователями.

Содержание

• Что такое r/Changemyview?
• Reddit в картине
• Исследователи защищают свой эксперимент

Что такое r/Changemyview?

Для тех, кто не в курсе, r/changemyview — один из самых популярных сабреддитов Reddit с 3,8 миллионами участников, позволяет участникам обсуждать различные темы, включая политику, медиа и популярную культуру, чтобы понять противоположные точки зрения.

Кроме того, пользователи делятся личными мнениями в постах, в то время как другие отвечают в попытке повлиять на них, чтобы они пересмотрели свою позицию. Если комментатору удается изменить точку зрения оригинального пользователя, он получает символ дельты (?) как знак измененной перспективы.

Согласно модераторам, исследователи использовали ИИ для создания тысяч персонализированных комментариев к постам пользователей, часто выдавая себя за чувствительные личности, такие как выжившие после сексуального насилия, консультанты по травмам и критики движения Black Lives Matter.

Эти ИИ-персоны были созданы с использованием личной информации, выведенной из истории Reddit пользователей, включая пол, возраст, этническую принадлежность, местоположение и политическую ориентацию, без их ведома или согласия.

Модераторы заявили, что проект нарушил правила сабреддита, включая строгий запрет на неразглашенный контент, сгенерированный ИИ, и использование ботов. Несколько комментариев, созданных исследовательской группой, были удалены за нарушение Условий использования сайта, но некоторые из них все еще можно увидеть в архиве, созданном 404 Media.

“Правила CMV не допускают использование неразглашенного контента, сгенерированного ИИ, или ботов на нашем сабреддите. Исследователи не связались с нами перед началом исследования, и если бы они это сделали, мы бы отказали. Мы потребовали извинений от исследователей и попросили, чтобы это исследование не публиковалось, среди других жалоб. Как обсуждалось ниже, наши опасения не были существенно рассмотрены Цюрихским университетом или исследователями,” добавил пост.

После раскрытия исследования модераторы r/changemyview подали этическую жалобу в Цюрихский университет и призвали исследователей не публиковать свои результаты.

Reddit в картине

Юридическая команда Reddit также резко отреагировала и официально связывается как с Цюрихским университетом, так и с конкретной исследовательской группой, требуя ответственности или корректирующих действий.

Главный юрисконсульт Бен Ли описал эксперимент как “глубоко неправильный как с моральной, так и с юридической точки зрения” и нарушение общих правил Reddit.

Он объявил, что все аккаунты, связанные с исследовательской работой Цюрихского университета, были заблокированы. Ли также подчеркнул приверженность платформы защите своих пользователей и сотрудничество с модераторами для удаления оставшегося контента, сгенерированного ИИ.

Исследователи защищают свой эксперимент

В своей защите исследователи утверждали, что их эксперимент был одобрен этическим комитетом их университета и может помочь онлайн-сообществам защититься от злонамеренного использования ИИ. Хотя они признали опасения сообщества, исследователи утверждали, что преимущества понимания убедительной силы LLM перевешивают опасности их несанкционированного эксперимента.

Тем не менее, модераторы r/changemyview отвергли это оправдание, подчеркивая, что предыдущие исследования, включая исследования OpenAI, изучали сабреддит “без экспериментов над несогласными человеческими субъектами.”

“Люди не приходят сюда, чтобы обсуждать свои взгляды с ИИ или подвергаться экспериментам,” подчеркнули модераторы в публичном посте. Люди, которые посещают наш сабреддит, заслуживают пространство, свободное от такого рода вторжений.”

Цюрихский университет еще не ответил публично на этот скандал.