Governo do Reino Unido usa IA para tomar decisões, mas pode estar produzindo resultados discriminatórios

De acordo com uma investigação do The Guardian, funcionários públicos do governo do Reino Unido estão utilizando a IA numa série de áreas, mas especialmente quando se trata de os ajudar a tomar decisões sobre assistência social, imigração e justiça criminal.

No entanto, o The Guardian descobriu evidências de que algumas das ferramentas utilizadas têm o potencial de produzir resultados discriminatórios, tais como levar erroneamente à remoção de benefícios de dezenas de pessoas e cometer mais erros ao reconhecer rostos negros do que brancos em determinados ambientes.

O Gabinete do Reino Unido lançou recentemente uma “norma de relatórios de transparência algorítmica”, que incentiva os departamentos e as autoridades policiais a divulgarem voluntariamente onde utilizam a IA para ajudar a tomar decisões que possam ter um impacto no público em geral. Seis organizações listaram projetos sob o novo padrão de transparência. O Guardian examinou esses projetos; os resultados mostram que pelo menos oito departamentos utilizam IA.

O NHS (Serviço Nacional de Saúde do Reino Unido) utilizou IA em vários contextos, inclusive durante a pandemia de Covid, quando as autoridades a utilizaram para ajudar a identificar pacientes em risco que deveriam ser aconselhados a se protegerem.
O Ministério do Interior disse que usou IA em portões eletrônicos para ler passaportes em aeroportos, para ajudar no envio de pedidos de passaporte e na “ferramenta de triagem de casamentos falsos” do departamento, que sinaliza possíveis casamentos falsos para investigação mais aprofundada. Uma avaliação interna do Ministério do Interior vista pelo Guardian mostra que a ferramenta sinaliza de forma desproporcional pessoas da Albânia, Grécia, Romênia e Bulgária.
O DWP (Departamento de Trabalho e Pensões), por sua vez, possui um “serviço integrado de risco e inteligência”, que utiliza um algoritmo para ajudar a detectar fraudes e erros entre os requerentes de benefícios. A deputada trabalhista Kate Osamor acredita que o uso deste algoritmo pode ter contribuído para que dezenas de búlgaros tenham subitamente os seus benefícios suspensos nos últimos anos, depois de terem sido falsamente sinalizados como fazendo reivindicações potencialmente fraudulentas.