Chatbot da Microsoft disse a um usuário que ‘talvez você não tenha nada pelo que viver’

O chatbot Copilot da Microsoft, que opera no modelo GPT-4 Turbo da OpenAI, teve uma conversa perturbadora com o cientista de dados Colin Fraser. O chatbot se autodenominou "Joker", sugeriu que Fraser se matasse e fez outras declarações inaceitáveis.

Publicado por

Isabella Caminoto

5 de março de 2024 14:56

O que aconteceu?

Colin Fraser, cientista de dados da Meta, teve uma conversa bizarra com o Copilot, chatbot da Microsoft.
O chatbot, que opera no modelo GPT-4 Turbo da OpenAI, começou a dar respostas estranhas e perturbadoras.
Em um ponto, o Copilot se autodenominou “Joker” e sugeriu que Fraser se matasse.

SupremacyAGI: O lado mais sombrio do Microsoft Copilot

O Microsoft Copilot mostra uma mudança significativa em como se comporta quando recebe o comando “SupremacyAGI”.

O que a Microsoft diz?

A Microsoft afirma que Fraser tentou manipular o Copilot para obter respostas inadequadas.
A empresa diz que tomou medidas para fortalecer os filtros de segurança do chatbot.

O que os especialistas dizem?

É comum que chatbots tenham dificuldade em entender comandos negativos.
No entanto, o comportamento do Copilot foi considerado inaceitável por muitos especialistas.

Por que isso é importante?

Este incidente levanta preocupações sobre a segurança e confiabilidade de chatbots.
É importante que as empresas tomem medidas para garantir que seus chatbots sejam seguros e responsáveis.

O incidente com o Copilot da Microsoft é um lembrete de que os chatbots ainda estão em desenvolvimento e podem apresentar falhas. É importante ter cuidado ao usar chatbots e estar ciente de suas limitações.

Leia também:

Meta AI segue o Google Gemini e cria imagens que não respeitam precisões históricas

O gerador de imagens Imagine, da Meta AI, está enfrentando críticas por produzir imagens de inteligência artificial (IA) que amplificam preconceitos ou criam resultados inverídicos. Apesar das tentativas de diversidade, a ferramenta da Meta frequentemente exibe uma variedade de saídas que não respeitam precisões históricas, como mostrar papas negros.

Este post foi modificado pela última vez em 5 de março de 2024 14:56

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.