Análise | Precisamos de guardiões de IA para nos proteger da overdose de dados de saúde?

Com o advento de tecnologias vestíveis, aplicativos de saúde e monitoramento contínuo de métricas fisiológicas, estamos vivendo um novo capítulo da saúde digital — repleto de promessas, mas também com riscos pouco comentados.

No artigo “Do we need AI guardians to protect us from health information overload?”, os autores Arjun Mahajan e Stephen Gilbert exploram justamente essa tensão entre o potencial transformador das tecnologias digitais de saúde e o efeito adverso da sobrecarga informacional.

O dilema da saúde digital

A discussão parte do seguinte cenário: por um lado, dispositivos como relógios inteligentes, sensores biométricos e plataformas de autodiagnóstico oferecem aos usuários uma visibilidade sem precedentes sobre seus corpos, comportamentos e riscos futuros.

Por outro lado, as evidências crescem de que “mais dados” nem sempre significa “melhores resultados”. Monitoramentos incessantes podem levar à fadiga digital em saúde, ansiedade ou até desengajamento — quando o usuário decide abandonar a tecnologia ou passa a ignorar alertas.

Esse fenômeno se assemelha ao problema de “overtesting” em medicina tradicional — exames desnecessários que geram achados incidentais, angústia e custos. Aqui, o equivalente digital seriam notificações de aparelhos que soam alarmantes, mesmo que os valores sejam flutuações normais.

Assistentes de IA como “guardiões”

Para enfrentar essa encruzilhada, o artigo propõe a ideia de assistentes de inteligência artificial (IA) pessoais — vamos chamar de “guardiões de IA” — que atuariam como mediadores entre o usuário e o fluxo intenso de dados de saúde. Eles filtrariam, contextualizariam e personalizariam as informações, de modo a tornar o monitoramento sustentável, compreensível e útil, em vez de opressor.

Esses sistemas poderiam, por exemplo, definir alertas personalizados com base no perfil de cada indivíduo, consolidar métricas de dispositivos variados (como sono, batimento cardíaco, glicemia) em painéis unificados e entregar recomendações práticas em linguagem acessível.

Já há estudos iniciais: modelos de grande linguagem (LLMs) adaptados à saúde mostram que conseguem interpretar dados de dispositivos e fornecer orientações comparáveis às de especialistas humanos, pelo menos em domínios como sono e condicionamento físico.

Desafios técnicos, éticos e de design

Entretanto, os autores deixam claro que a implementação desses “guardiões de IA” não será trivial. Há três grandes frentes de desafio:

1. Arquiteturas técnicas – Coletar dados de várias origens (wearables, prontuários eletrônicos, sensores), padronizá-los, ingeri-los em modelos que façam análise temporal, identificação de padrões, tendências e recomendações.
2. Design centrado no usuário – Qual é o limite entre filtrar demais e filtrar de menos? Se a IA suprimir alertas ou informações que o usuário gostaria de ver, reduz-se a transparência e autogestão. Como garantir que o usuário mantenha controle, possa ajustar parâmetros de filtragem, entenda por que certa informação foi omitida?
3. Governança e supervisão – Quando esses sistemas adentram o território médico, emergem questões regulatórias: as fronteiras entre dispositivo de consumo e dispositivo médico começam a se confundir. Como garantir segurança, eficácia, responsabilidade? Como preservar que a IA complemente (e não substitua indevidamente) o julgamento clínico?

Por que isso importa para IA e saúde

Esse estudo traz implicações importantes para quem atua nas interseções entre IA e saúde digital.

Primeiro, porque nos obriga a refletir não só sobre “o que podemos fazer” com IA, mas “o que deveríamos fazer” — ou seja, quais usos são sustentáveis do ponto de vista humano e psicológico. Segundo, porque destaca que o problema muitas vezes não é a falta de dados, mas a incapacidade de gerenciá-los de modo que realmente empoderem o usuário e não o sobrecarreguem. Terceiro, porque abre caminho para novas pesquisas, prototipagem e políticas inexploradas: por exemplo, qual o nível ideal de “filtragem” para minimizar carga cognitiva sem esconder sinais clínicos importantes? Como medir sucesso (redução de ansiedade, maior adesão, melhores resultados de saúde)?

Em resumo: a revolução da saúde digital traz enorme promessa, mas também um risco claro de transformar vigilância saudável em vigilância exaustiva ou angustiante. A proposta de “guardiões de IA” aparece como uma solução conceitual atraente — mas exige rigor técnico, sensibilidade ao usuário e estrutura regulatória adequada. Como os autores concluem, “a inteligência artificial pode oferecer soluções ao paradoxo da sobrecarga informacional em saúde, potencialmente equilibrando gestão informada da saúde com menor carga cognitiva. Mas depende tanto da sofisticação técnica quanto da confiança, da transparência, da supervisão.”

Leia também: