Pesquisadores Usaram IA Secretamente No Reddit, Gerando Indignação

Um grupo de pesquisadores, alegando ser da Universidade de Zurique, está sob fogo após conduzir meses de experimento “não autorizado” usando comentários gerados por IA em usuários desavisados do Reddit no subreddit Change My View (CMV) (r/ChangeMyView).

O projeto, destinado a estudar o poder persuasivo de grandes modelos de linguagem (LLMs), foi revelado pelos moderadores do subreddit da comunidade CMV durante o fim de semana, que foram notificados pelos pesquisadores após a conclusão de sua pesquisa.

Subsequentemente, os moderadores publicaram um aviso público no subreddit, acompanhado por um rascunho do artigo de pesquisa concluído, condenando-o como uma “manipulação psicológica” de usuários desavisados.

Tabela de Conteúdos

• O que é r/Changemyview?
• Reddit na Imagem
• Pesquisadores Defendem seu Experimento

O que é r/Changemyview?

Para aqueles que não sabem, r/changemyview, um dos subreddits mais populares do Reddit com 3,8 milhões de membros, permite que os participantes discutam vários tópicos, incluindo política, mídia e cultura popular, para entender pontos de vista opostos.

Além disso, os usuários compartilham opiniões pessoais em postagens, enquanto outros respondem na tentativa de influenciá-los a reconsiderar sua posição. Se um comentarista consegue mudar o ponto de vista do usuário original, ele recebe um símbolo delta (?) como marca de perspectiva alterada.

De acordo com os moderadores, os pesquisadores utilizaram IA para criar milhares de comentários personalizados para postagens de usuários, muitas vezes personificando identidades sensíveis, como sobreviventes de agressão sexual, conselheiros de trauma e críticos do movimento Black Lives Matter.

Essas personas de IA foram criadas usando informações pessoais inferidas dos históricos de Reddit dos usuários, incluindo gênero, idade, etnia, localização e orientação política, sem seu conhecimento ou consentimento.

Os moderadores afirmaram que o projeto violou as regras do subreddit, incluindo uma proibição rigorosa de conteúdo de IA não divulgado e o uso de bots. Vários comentários criados pela equipe de pesquisa foram posteriormente excluídos por violar os Termos de Serviço do site, mas alguns deles ainda podem ser visualizados em um arquivo criado pela 404 Media.

“As regras do CMV não permitem o uso de conteúdo gerado por IA não divulgado ou bots em nosso sub. Os pesquisadores não nos contataram antes do estudo e, se o tivessem feito, teríamos recusado. Solicitamos um pedido de desculpas dos pesquisadores e pedimos que essa pesquisa não fosse publicada, entre outras reclamações. Como discutido abaixo, nossas preocupações não foram abordadas de forma substancial pela Universidade de Zurique ou pelos pesquisadores,” acrescentou a postagem.

Após a divulgação da pesquisa, os moderadores do r/changemyview apresentaram uma reclamação ética à Universidade de Zurique e instaram os pesquisadores a não publicarem suas descobertas.

Reddit na Imagem

A equipe jurídica do Reddit também reagiu fortemente e está contatando formalmente tanto a Universidade de Zurique quanto a equipe de pesquisa específica envolvida, exigindo responsabilidade ou ação corretiva.

O Diretor Jurídico Ben Lee descreveu o experimento como “profundamente errado em níveis moral e legal” e uma violação das regras gerais do Reddit.

Ele anunciou que todas as contas ligadas ao esforço de pesquisa da Universidade de Zurique foram banidas. Lee enfatizou ainda o compromisso da plataforma em proteger seus usuários e trabalhar com moderadores para remover qualquer conteúdo gerado por IA que ainda permaneça.

Pesquisadores Defendem seu Experimento

Em sua defesa, os pesquisadores afirmaram que seu experimento havia sido aprovado pelo comitê de ética de sua universidade e poderia ajudar comunidades online a se proteger contra o uso malicioso de IA. Embora tenham reconhecido as preocupações da comunidade, os pesquisadores argumentaram que os benefícios de entender o poder persuasivo dos LLMs superavam os perigos de seu experimento não autorizado.

No entanto, os moderadores do r/changemyview rejeitaram essa justificativa, enfatizando que pesquisas anteriores, incluindo por pesquisadores da OpenAI, estudaram o subreddit “sem experimentar em sujeitos humanos não consentidos.”

“As pessoas não vêm aqui para discutir suas opiniões com IA ou para serem experimentadas,” enfatizaram os moderadores em uma postagem pública. “As pessoas que visitam nosso sub merecem um espaço livre desse tipo de intrusão.”

A Universidade de Zurique ainda não respondeu publicamente à controvérsia.