Estudo do Reino Unido encontra viés discriminatório em ferramentas de IA para saúde

Entre outras descobertas, o Relatório de Equidade em Dispositivos Médicos: Revisão Independente levantou preocupações sobre dispositivos que usam inteligência artificial (IA), bem como aqueles que medem os níveis de oxigênio. A equipe por trás da revisão disse que ação urgente é necessária.

O professor Frank Kee, diretor do centro de saúde pública da Universidade Queen’s de Belfast e co-autor da revisão, disse: “Gostaríamos de ter uma perspectiva de equidade em todo o ciclo de vida dos dispositivos médicos, desde os testes iniciais até a recrutamento de pacientes, seja no hospital ou na comunidade, até os estudos da fase inicial e a implementação no campo após serem licenciados”.

UK report reveals bias within medical tools and devices https://t.co/CCwZU1rnXl

— Guardian news (@guardiannews) March 11, 2024

A revisão encomendada pelo governo foi iniciada em 2022, após preocupações serem levantadas sobre a precisão das leituras do oxímetro de pulso em pessoas de origem étnica negra e minorias étnicas.

O relatório confirmou as preocupações com os oxímetros de pulso superestimarem a quantidade de oxigênio no sangue de pessoas com pele escura, observando que, embora não haja evidências disso afetar o cuidado no setor público de saúde do Reino Unido, danos foram encontrados nos EUA – com tais preconceitos levando a diagnósticos e tratamentos tardios, bem como piora da função dos órgãos e morte em pacientes negros.

Falta de regulamentação da IA na saúde gera preocupações

O uso não controlado de ferramentas de inteligência artificial (IA) na área da saúde criou uma situação arriscada. À medida que essas ferramentas de IA são aplicadas à medicina, sua segurança e eficácia não passam por um monitoramento governamental completo. Isso levanta questões sobre se estamos priorizando a inovação em detrimento da segurança do paciente.

Os membros da equipe enfatizam que não estão pedindo para evitar os dispositivos. Em vez disso, a revisão apresenta uma série de medidas para melhorar o uso de oxímetros de pulso em pessoas de diferentes tons de pele, incluindo a necessidade de observar mudanças nas leituras em vez de leituras únicas, enquanto também fornece conselhos sobre como desenvolver e testar novos dispositivos para garantir que funcionem bem para pacientes de todas as etnias.

As preocupações com dispositivos baseados em inteligência artificial também foram destacadas pelo relatório, incluindo o potencial para essa tecnologia exacerbar o subdiagnóstico de condições cardíacas em mulheres, levar à discriminação com base no status socioeconômico dos pacientes e resultar em subdiagnóstico de cânceres de pele em pessoas com tons de pele mais escuros. As preocupações com este último, dizem eles, devem-se ao fato de que os dispositivos de IA são em grande parte treinados em imagens de tons de pele mais claros.

Leia também:

Nvidia é processada por usar obras protegidas por direitos autorais

A Nvidia foi processada por três autores que afirmam que a empresa usou seus livros – protegidos por direitos autorais – sem permissão para treinar sua plataforma de inteligência artificial (IA) NeMo.

Procurando uma ferramenta de Inteligência Artificial para facilitar a sua vida? Neste guIA, você navega por um catálogo de robôs movidos a IA e conhece suas funcionalidades. Confira a avaliação que a nossa equipe de jornalistas deu para elas!