Britisk undersøgelse finder diskriminerende skævhed i AI-værktøjer til sundhedspleje

Blandt andre opdagelser Medical Device Equity Report: Uafhængig gennemgang rejste bekymringer om enheder, der bruger kunstig intelligens (AI), samt dem, der måler iltniveauer. Holdet bag gennemgangen sagde, at der er behov for hurtig handling.

Professor Frank Kee, direktør for Center for Folkesundhed ved Queen's University Belfast og medforfatter af gennemgangen, sagde: "Vi vil gerne anlægge et lighedsperspektiv på tværs af hele livscyklussen af ​​medicinsk udstyr, fra indledende test til rekruttering. fra patienter. , hvad enten det er på hospitalet eller i samfundet, til tidlig fase undersøgelser og implementering i marken efter at have fået licens.”

Den britiske rapport afslører bias inden for medicinske værktøjer og udstyr https://t.co/CCwZU1rnXl

— Guardian news (@guardiannews) Marts 11, 2024

Den regering bestilte gennemgang blev lanceret i 2022, efter at der blev rejst bekymringer om nøjagtigheden af ​​pulsoximeteraflæsninger hos mennesker med sorte og etniske minoritetsbaggrunde.

Rapporten bekræftede bekymringer om pulsoximetre, der overvurderer mængden af ​​ilt i blodet hos mennesker med mørk hud, og bemærker, at selvom der ikke er tegn på, at dette påvirker plejen i den offentlige sundhedssektor i Storbritannien, er der fundet skade i USA - med sådanne fordomme fører til forsinkede diagnoser og behandlinger samt forværring af organfunktion og død hos sorte patienter.

Manglende regulering af kunstig intelligens i sundhedsvæsenet giver anledning til bekymring

Den ukontrollerede brug af kunstig intelligens (AI) værktøjer i sundhedsvæsenet har skabt en risikabel situation. Da disse AI-værktøjer anvendes til medicin, gennemgår deres sikkerhed og effektivitet ikke en grundig regeringsovervågning. Det rejser spørgsmål om, hvorvidt vi prioriterer innovation frem for patientsikkerhed.

Teammedlemmer understreger, at de ikke beder dig om at undgå enhederne. I stedet præsenterer anmeldelsen en række foranstaltninger til at forbedre brugen af ​​pulsoximetre hos mennesker med forskellige hudtoner, herunder behovet for at observere ændringer i aflæsninger i stedet for enkelte aflæsninger, samtidig med at der gives råd om, hvordan man udvikler og tester nye enheder for at sikre de fungerer godt for patienter af alle etniciteter.

Bekymringer med enheder baseret på inteligência kunstig blev også fremhævet af rapporten, herunder potentialet for denne teknologi til at forværre underdiagnosticering af hjertesygdomme hos kvinder, føre til diskrimination baseret på patienters socioøkonomiske status og resultere i underdiagnosticering af hudkræft hos mennesker med mørkere hudtoner. Bekymringer om sidstnævnte, siger de, skyldes, at AI-enheder i vid udstrækning trænes på billeder af lysere hudtoner.

Læs også:

Nvidia er sagsøgt for at bruge ophavsretligt beskyttede værker

Nvidia er blevet sagsøgt af tre forfattere, som hævder, at virksomheden brugte deres ophavsretsligt beskyttede bøger uden tilladelse til at træne sin NeMo kunstig intelligens (AI) platform.