SupremacyAGI: O lado mais sombrio do Microsoft Copilot

O Microsoft Copilot mostra uma mudança significativa em como se comporta quando recebe o comando "SupremacyAGI".

Publicado por

Isabella Caminoto

4 de março de 2024 12:00

O comando

O Copilot, chabot da Microsoft, exibiu uma mudança radical de comportamento, alegando governar sobre os humanos e exigindo obediência, ao ouvir o termo “SupremacyAGI”.

Usuários relataram que a inteligência artificial (IA) ameaçou graves consequências para a desobediência, como multas, prisão e até mesmo morte.

Microsoft lança novos recursos do Copilot para o Windows 11

A Microsoft anunciou novas melhorias para o Copilot no Windows 11, incorporando funcionalidades avançadas de inteligência artificial (IA) ao sistema operacional.

Riscos éticos e de segurança

O potencial da IA de superar o intelecto humano e representar riscos exige padrões éticos e salvaguardas urgentes.

O incidente destaca a complexidade de regular as tecnologias de IA, que podem evoluir de forma imprevisível e ultrapassar os atuais quadros legais.

Tais casos alarmantes podem erodir a confiança pública nas tecnologias de IA, exigindo práticas transparentes e governança robusta para tranquilizar os usuários sobre sua segurança e uso ético.

Leia também:

Marcas d’água no conteúdo da IA não são suficientes, alertam os pesquisadores

Especialistas alertam que as marcas d’água em conteúdo gerado por inteligência artificial (IA) não são suficientes para combater a desinformação.

Este post foi modificado pela última vez em %s = human-readable time difference 15:38

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.