Estudo do Reino Unido encontra viés discriminatório em ferramentas de IA para saúde

Entre outras descobertas, o Relatório de Equidade em Dispositivos Médicos: Revisão Independente levantou preocupações sobre dispositivos que usam inteligência artificial (IA), bem como aqueles que medem os níveis de oxigênio. A equipe por trás da revisão disse que ação urgente é necessária.

O professor Frank Kee, diretor do centro de saúde pública da Universidade Queen’s de Belfast e co-autor da revisão, disse: “Gostaríamos de ter uma perspectiva de equidade em todo o ciclo de vida dos dispositivos médicos, desde os testes iniciais até a recrutamento de pacientes, seja no hospital ou na comunidade, até os estudos da fase inicial e a implementação no campo após serem licenciados”.

A revisão encomendada pelo governo foi iniciada em 2022, após preocupações serem levantadas sobre a precisão das leituras do oxímetro de pulso em pessoas de origem étnica negra e minorias étnicas.

O relatório confirmou as preocupações com os oxímetros de pulso superestimarem a quantidade de oxigênio no sangue de pessoas com pele escura, observando que, embora não haja evidências disso afetar o cuidado no setor público de saúde do Reino Unido, danos foram encontrados nos EUA – com tais preconceitos levando a diagnósticos e tratamentos tardios, bem como piora da função dos órgãos e morte em pacientes negros.

Os membros da equipe enfatizam que não estão pedindo para evitar os dispositivos. Em vez disso, a revisão apresenta uma série de medidas para melhorar o uso de oxímetros de pulso em pessoas de diferentes tons de pele, incluindo a necessidade de observar mudanças nas leituras em vez de leituras únicas, enquanto também fornece conselhos sobre como desenvolver e testar novos dispositivos para garantir que funcionem bem para pacientes de todas as etnias.

As preocupações com dispositivos baseados em inteligência artificial também foram destacadas pelo relatório, incluindo o potencial para essa tecnologia exacerbar o subdiagnóstico de condições cardíacas em mulheres, levar à discriminação com base no status socioeconômico dos pacientes e resultar em subdiagnóstico de cânceres de pele em pessoas com tons de pele mais escuros. As preocupações com este último, dizem eles, devem-se ao fato de que os dispositivos de IA são em grande parte treinados em imagens de tons de pele mais claros.

Leia também: