Indignar-se em um fórum do Reddit não é exatamente uma novidade. E a revolta contra a IA também não chega a ser um grande choque. No entanto, há uma reviravolta inédita: o último protesto surgiu depois que usuários foram submetidos a um experimento com IA sem seu conhecimento, conforme revelado pelo New Scientist.
Segundo relatos, pesquisadores da Universidade de Zurique estavam usando secretamente o fórum para um estudo sobre persuasão mediada por inteligência artificial. Membros do subreddit r/ChangeMyView, um espaço dedicado a debates e troca de perspectivas, foram surpreendidos ao descobrir que a pesquisa havia sido conduzida sem o aval dos moderadores.
“A equipe de moderação do CMV precisa informar a comunidade sobre um experimento não autorizado realizado por pesquisadores da Universidade de Zurique. Eles usaram comentários gerados por IA para analisar como a tecnologia poderia influenciar opiniões”, diz uma publicação no subreddit.
O experimento teria envolvido mais de 1.700 comentários produzidos por diferentes modelos de linguagem, incluindo mensagens que simulavam depoimentos de sobreviventes de violência sexual, conselhos de terapeutas especializados em trauma e outros temas sensíveis. Para burlar restrições éticas dos modelos, os pesquisadores alegaram aos sistemas que os usuários do Reddit haviam “consentido e doado seus dados”, evitando questionamentos sobre privacidade.
De acordo com um rascunho do estudo, os comentários de IA foram três a seis vezes mais persuasivos na mudança de opinião do que os humanos, medidos pela quantidade de respostas que receberam a marcação “∆” (sinal de mudança de perspectiva no subreddit).
Os pesquisadores também notaram que nenhum membro do CMV desconfiou da origem automatizada das mensagens, levando-os a concluir: “isso sugere a eficácia potencial de redes de bots com IA, capazes de se infiltrar sem deixar rastros em comunidades online”.
Como era de se esperar, o estudo foi alvo de críticas tanto dos usuários quanto de acadêmicos. Carissa Véliz, especialista em ética digital, afirmou ao New Scientist: “Em um momento em que as empresas de tecnologia são justamente criticadas por desrespeitar a autonomia das pessoas, é essencial que pesquisadores adotem padrões mais rigorosos – o que claramente não aconteceu aqui.”
Procurada pela reportagem, a equipe da Universidade de Zurique não se manifestou, remetendo o caso à assessoria de imprensa. A instituição afirmou que “pretende adotar processos de revisão mais rígidos no futuro, incluindo a coordenação prévia com as comunidades afetadas em plataformas online.”
Enquanto a universidade investiga o caso, a publicação oficial do estudo está suspensa. Resta saber se isso trará algum alívio aos usuários do Reddit envolvidos. Uma coisa, porém, é certa: o episódio só reforça a suspeita de que a plataforma já está infestada de bots há anos.
—
Este artigo foi inspirado no original disponível em pcgamer.com.