A rápida expansão da inteligência artificial (IA) na saúde mental vem sendo tratada como uma revolução capaz de ampliar diagnósticos, personalizar tratamentos e democratizar o acesso ao cuidado psicológico. Mas um novo estudo publicado na revista JMIR Mental Health alerta que esses sistemas podem estar herdando — e amplificando — vieses humanos perigosos. Segundo os pesquisadores, modelos de IA treinados com dados clínicos e feedback humano pouco confiáveis podem reforçar distorções emocionais, preconceitos e até interpretações equivocadas de pacientes.
PUBLICIDADE
O artigo introduz um conceito da psiquiatria chamado “collusion” (“conluio” ou “colusão clínica”), que descreve situações em que profissionais aceitam narrativas problemáticas sem questionamento crítico. Para os autores, sistemas de IA podem reproduzir exatamente esse comportamento quando priorizam aprovação do usuário ou dados históricos enviesados em vez de confiabilidade clínica.
Na prática, isso significa que chatbots terapêuticos, assistentes psicológicos automatizados e modelos de triagem emocional podem acabar validando interpretações distorcidas da realidade, reforçando padrões negativos de pensamento em vez de corrigi-los.
O problema não está apenas na IA — mas nos humanos que a treinam
A pesquisa reforça uma preocupação crescente no setor: sistemas de IA aprendem a partir de dados humanos. Se esses dados carregam preconceitos culturais, sociais ou médicos, os algoritmos inevitavelmente absorvem esses padrões.
PUBLICIDADE
Isso é especialmente delicado em saúde mental, uma área altamente subjetiva e dependente de contexto cultural, linguagem, histórico social e nuances emocionais. Pequenas diferenças na forma como pessoas expressam sofrimento psicológico podem alterar completamente a interpretação de um modelo automatizado.
Estudos anteriores já mostraram, por exemplo, que ferramentas de IA têm menor precisão ao identificar sinais de depressão em populações negras, em parte porque modelos de linguagem são treinados majoritariamente com padrões linguísticos ocidentais e grupos demográficos mais representados digitalmente.
Além disso, sistemas baseados em linguagem natural podem interpretar dialetos, gírias ou expressões culturais como sinais incorretos de agressividade, instabilidade ou ausência de sofrimento emocional.
PUBLICIDADE
IA médica avança rapidamente — mas supervisão ainda é insuficiente
O alerta surge justamente em um momento de forte aceleração da IA na medicina. Recentemente, pesquisadores da Harvard Medical School divulgaram testes mostrando que modelos de IA superaram médicos humanos em diagnósticos de triagem emergencial em determinadas situações clínicas.
Na saúde mental, empresas vêm lançando assistentes terapêuticos automatizados, sistemas de monitoramento emocional, ferramentas de prevenção de suicídio e plataformas de aconselhamento psicológico baseadas em grandes modelos de linguagem.
O problema é que muitos desses sistemas funcionam como “caixas-pretas”: profissionais e pacientes não conseguem compreender exatamente como a IA chegou a determinada conclusão.
PUBLICIDADE
Essa falta de transparência dificulta identificar quando um algoritmo está reproduzindo preconceitos ou reforçando padrões nocivos.
Linguagem estigmatizante também influencia modelos modernos
Pesquisas recentes indicam que mesmo modelos avançados continuam extremamente vulneráveis a vieses linguísticos. Um estudo publicado neste mês revelou que frases clínicas com linguagem estigmatizante foram suficientes para alterar decisões médicas tomadas por nove grandes modelos de IA.
Segundo os pesquisadores, bastava inserir pequenas expressões de julgamento ou culpa em prontuários médicos para que os modelos passassem a recomendar tratamentos menos agressivos ou menos prioritários aos pacientes.
PUBLICIDADE
O dado chama atenção porque demonstra que a IA não apenas replica informações médicas, mas também absorve tons emocionais, preconceitos implícitos e vieses comportamentais presentes na escrita humana.
Especialistas defendem auditoria e “confiabilidade clínica” como novo padrão
Diante desse cenário, os autores do estudo defendem que “confiabilidade clínica” passe a ser um dos critérios centrais para sistemas de IA aplicados à saúde mental. Isso incluiria auditorias constantes, validação humana especializada, diversidade nos dados de treinamento e mecanismos capazes de detectar vieses culturais e emocionais antes que os modelos sejam implementados em larga escala.
Também cresce a pressão por regulamentação. Nos últimos anos, organizações médicas e grupos de direitos civis passaram a defender regras específicas para IA em saúde, especialmente em áreas sensíveis como psiquiatria, psicologia clínica e prevenção ao suicídio.
O desafio é enorme: equilibrar o potencial transformador da IA com a necessidade de proteger pacientes vulneráveis de decisões automatizadas incorretas ou discriminatórias.
No fim, o estudo reforça uma conclusão cada vez mais evidente no setor: inteligência artificial não elimina preconceitos humanos automaticamente. Em muitos casos, ela apenas os escala — com velocidade, alcance e aparência de neutralidade científica.
Leia também:
