IAs desenvolvem suas próprias normas sociais, revela estudo

Uma nova pesquisa da Universidade de Londres descobriu que agentes de inteligência artificial (IA) podem desenvolver convenções sociais compartilhadas e comportamentos coletivos apenas por meio da interação, sem qualquer coordenação central, de forma muito semelhante às comunidades humanas.

Detalhes do que revelou o estudo

• A equipe testou “jogos de nomeação” de IA com grupos de agentes pareados aleatoriamente para selecionar rótulos, com recompensas para escolhas correspondentes e penalidades para escolhas diferentes.
• Mesmo que agentes individuais tivessem memória limitada e não fossem informados de que faziam parte de um grupo, convenções compartilhadas ainda emergiram em toda a população.
• Preconceitos em nível de grupo surgiram apenas dessas interações de IA, mesmo quando agentes individuais começaram sem nenhuma inclinação específica.
• Pequenos, mas determinados, subgrupos de IA foram capazes de mudar as normas estabelecidas de toda a comunidade, assim como os pontos de inflexão em mudanças sociais humanas.

Por que isso importa

Grupos de agentes de IA estão prestes a interagir por toda a internet, e esta pesquisa mostra que pode haver uma dinâmica social mais profunda sob a superfície. À medida que os agentes começam a negociar, alinhar-se e trabalhar juntos em objetivos e comportamentos compartilhados, entender essas dinâmicas será importante para mantê-los alinhados com os valores humanos.

Relevância do tema

A pesquisa é bastante interessante e levanta questões importantes sobre como a interação entre IAs pode gerar comportamentos emergentes complexos, algo que pode ter implicações significativas no futuro, especialmente considerando o crescente uso de múltiplos agentes de IA trabalhando em conjunto. É crucial entender esses processos para garantir que essas “sociedades” de IA evoluam de maneira benéfica para a humanidade.

Leia também: