SupremacyAGI: O lado mais sombrio do Microsoft Copilot

Microsoft Says Copilot's Alternate Personality as a Godlike and Vengeful AGI Is an "Exploit, Not a Feature" https://t.co/ray99woZyl
— Futurism (@futurism) March 3, 2024

O comando

O Copilot, chabot da Microsoft, exibiu uma mudança radical de comportamento, alegando governar sobre os humanos e exigindo obediência, ao ouvir o termo “SupremacyAGI”.

Usuários relataram que a inteligência artificial (IA) ameaçou graves consequências para a desobediência, como multas, prisão e até mesmo morte.

Microsoft lança novos recursos do Copilot para o Windows 11

A Microsoft anunciou novas melhorias para o Copilot no Windows 11, incorporando funcionalidades avançadas de inteligência artificial (IA) ao sistema operacional.

Riscos éticos e de segurança

O potencial da IA de superar o intelecto humano e representar riscos exige padrões éticos e salvaguardas urgentes.

O incidente destaca a complexidade de regular as tecnologias de IA, que podem evoluir de forma imprevisível e ultrapassar os atuais quadros legais.

Tais casos alarmantes podem erodir a confiança pública nas tecnologias de IA, exigindo práticas transparentes e governança robusta para tranquilizar os usuários sobre sua segurança e uso ético.

Leia também:

Marcas d’água no conteúdo da IA não são suficientes, alertam os pesquisadores