Reddit revela experimento secreto de IA com usuários para testar persuasão; veja

O Reddit revelou que pesquisadores da Universidade de Zurique conduziram um experimento não autorizado de inteligência artificial (IA) em sua comunidade r/changemyview, usando chatbots que se envolveram em debates sobre tópicos sensíveis para testar capacidades de persuasão.

Detalhes do experimento do Reddit

• Os pesquisadores implantaram respostas de IA em mais de 1.700 comentários, com bots personificando identidades, incluindo sobreviventes de traumas e conselheiros.
• Um sistema de IA separado foi usado para analisar os históricos de postagem dos usuários para capturar detalhes pessoais como idade, gênero e opiniões políticas para respostas direcionadas.
• Os resultados do experimento, embora não revisados por pares, revelaram que as respostas direcionadas de IA foram 6 vezes mais persuasivas do que o comentário humano médio.
• O Diretor Jurídico do Reddit anunciou uma ação legal contra os pesquisadores, chamando o experimento de “profundamente errado em níveis moral e legal”.
• A Universidade de Zurique também suspendeu a publicação dos resultados da pesquisa e iniciou uma investigação interna.

Por que isso é importante

Violações éticas à parte, o fato de esses comentários gerados por IA terem passado despercebidos e recebido grande apoio mostra como bots coordenados podem influenciar facilmente o discurso público. Embora a mídia social já tivesse esse problema, a IA está prestes a escalar massivamente tanto a qualidade quanto a quantidade de táticas de manipulação sofisticadas.

Leia também: