O Reddit revelou que pesquisadores da Universidade de Zurique conduziram um experimento não autorizado de inteligência artificial (IA) em sua comunidade r/changemyview, usando chatbots que se envolveram em debates sobre tópicos sensíveis para testar capacidades de persuasão.
PUBLICIDADE
Detalhes do experimento do Reddit
- Os pesquisadores implantaram respostas de IA em mais de 1.700 comentários, com bots personificando identidades, incluindo sobreviventes de traumas e conselheiros.
- Um sistema de IA separado foi usado para analisar os históricos de postagem dos usuários para capturar detalhes pessoais como idade, gênero e opiniões políticas para respostas direcionadas.
- Os resultados do experimento, embora não revisados por pares, revelaram que as respostas direcionadas de IA foram 6 vezes mais persuasivas do que o comentário humano médio.
- O Diretor Jurídico do Reddit anunciou uma ação legal contra os pesquisadores, chamando o experimento de “profundamente errado em níveis moral e legal”.
- A Universidade de Zurique também suspendeu a publicação dos resultados da pesquisa e iniciou uma investigação interna.
Por que isso é importante
Violações éticas à parte, o fato de esses comentários gerados por IA terem passado despercebidos e recebido grande apoio mostra como bots coordenados podem influenciar facilmente o discurso público. Embora a mídia social já tivesse esse problema, a IA está prestes a escalar massivamente tanto a qualidade quanto a quantidade de táticas de manipulação sofisticadas.
Leia também:
