Google AI Overviews pode colocar vidas em risco ao fornecer informações de saúde enganosas; entenda

Uma investigação recente revelou que o recurso AI Overviews do Google — responsável por gerar resumos automáticos usando inteligência artificial (IA) nos resultados de pesquisa — tem distribuído informações de saúde falsas ou imprecisas, com potencial real de prejudicar usuários em situações críticas.

O AI Overviews foi projetado para sintetizar respostas diretas às buscas, com o objetivo de facilitar e agilizar o acesso à informação. No entanto, especialistas e instituições de saúde identificaram casos preocupantes: em um deles, o sistema recomendou a pacientes com câncer de pâncreas evitarem alimentos ricos em gordura — orientação que pode ser perigosa e até reduzir as chances de resposta ao tratamento.

Outros exemplos incluem respostas incorretas sobre testes de função hepática ou exames de câncer vaginal, que poderiam levar pacientes a ignorar sintomas ou resultados clínicos importantes. Além disso, o conteúdo gerado por IA apresentou variações inconsistentes para a mesma pesquisa, o que pode confundir ainda mais quem busca informações confiáveis.

Organizações de saúde e profissionais alertam que, embora o Google afirme estar aprimorando a tecnologia e baseando suas respostas em fontes supostamente confiáveis, o uso de resumos automáticos sem supervisão especializada aumenta o risco de disseminação de informações perigosas, especialmente em temas sensíveis como saúde.

Esse caso ressalta um desafio central da IA aplicada à informação pública: a facilidade de gerar respostas convincentes não garante precisão ou segurança, especialmente quando a vida das pessoas pode depender da qualidade dos dados apresentados. Em contextos de saúde, isso reforça a necessidade de mecanismos de validação, revisão humana e transparência sobre limitações da tecnologia.

Leia também: