ChatGPT é aprimorado para ‘detectar melhor’ sofrimento mental; entenda

Preocupada com o bem-estar de seus usuários antes do lançamento do GPT-5, a OpenAI implementou uma série de mudanças no ChatGPT para promover um “uso saudável” da ferramenta. Entre as novidades estão ferramentas aprimoradas para detectar quando os usuários estão passando por sofrimento mental.

Aqui estão os principais detalhes

• A OpenAI admitiu que, embora sejam casos raros, houve momentos em que o GPT-4o falhou em reconhecer sinais de “delírio ou dependência emocional”.
• Para resolver isso, a empresa criou novas rubricas de avaliação personalizadas para o ChatGPT. A ferramenta agora consegue sinalizar sofrimento e responder de forma adequada, fornecendo recursos e informações baseados em evidências.
• A OpenAI está colaborando com médicos, especialistas em interação humano-computador e grupos consultivos para obter feedback e aprimorar sua abordagem nessas situações delicadas.
• Outra mudança notável é a inclusão de lembretes para desencorajar conversas muito longas. Além disso, o modelo foi ajustado para ser menos assertivo, incentivando os usuários a refletir sobre situações de alto risco.

Por que isso é importante

Antes de apresentar o GPT-5, a OpenAI está reforçando seu compromisso com a segurança e o bem-estar dos usuários. Embora ainda seja necessário muito mais estudo sobre a interação humana com a inteligência artificial (IA), essa iniciativa representa um passo significativo em direção a um uso mais responsável da tecnologia. A empresa deixa claro que o bem-estar de seus usuários é uma prioridade, especialmente com a chegada de uma nova geração do seu modelo de linguagem.

Leia também: