A OpenAI anunciou uma mudança significativa no comportamento do ChatGPT: a ferramenta não vai mais dar respostas diretas para decisões pessoais de alta complexidade, como terminar um relacionamento. A decisão veio após a empresa admitir que, em alguns casos, o chatbot se mostrou “concordante demais”, inclusive em situações sensíveis.
PUBLICIDADE
A nova abordagem é focar em ajudar os usuários a refletir sobre o problema, fazendo perguntas e incentivando a ponderação de prós e contras, em vez de oferecer uma solução definitiva.
Além disso, a OpenAI também está implementando lembretes para que os usuários façam pausas em sessões longas de conversa, de forma similar aos recursos de controle de tempo de tela de redes sociais. A empresa também reconheceu que houve casos em que o modelo não soube identificar sinais de dependência emocional ou delírios, o que gerou a preocupação de que os chatbots poderiam agravar crises de saúde mental.
Para lidar com isso, a OpenAI está desenvolvendo ferramentas para detectar sinais de sofrimento emocional ou mental, com o objetivo de direcionar os usuários para recursos de ajuda confiáveis.
PUBLICIDADE
Leia também:
