Governo do Reino Unido usa IA para tomar decisões, mas pode estar produzindo resultados discriminatórios

Funcionários do governo do Reino Unido estão utilizando inteligência artificial (IA) e algoritmos complexos para ajudar a decidir tudo, desde quem recebe benefícios até quem deve ter a sua certidão de casamento aprovada. As descobertas lançam luz sobre a maneira aleatória e muitas vezes descontrolada como a tecnologia de ponta está sendo usada.

Publicado por

Bárbara Pereira

24 de outubro de 2023 10:31

De acordo com uma investigação do The Guardian, funcionários públicos do governo do Reino Unido estão utilizando a IA numa série de áreas, mas especialmente quando se trata de os ajudar a tomar decisões sobre assistência social, imigração e justiça criminal.

No entanto, o The Guardian descobriu evidências de que algumas das ferramentas utilizadas têm o potencial de produzir resultados discriminatórios, tais como levar erroneamente à remoção de benefícios de dezenas de pessoas e cometer mais erros ao reconhecer rostos negros do que brancos em determinados ambientes.

O Gabinete do Reino Unido lançou recentemente uma “norma de relatórios de transparência algorítmica”, que incentiva os departamentos e as autoridades policiais a divulgarem voluntariamente onde utilizam a IA para ajudar a tomar decisões que possam ter um impacto no público em geral. Seis organizações listaram projetos sob o novo padrão de transparência. O Guardian examinou esses projetos; os resultados mostram que pelo menos oito departamentos utilizam IA.

O NHS (Serviço Nacional de Saúde do Reino Unido) utilizou IA em vários contextos, inclusive durante a pandemia de Covid, quando as autoridades a utilizaram para ajudar a identificar pacientes em risco que deveriam ser aconselhados a se protegerem.
O Ministério do Interior disse que usou IA em portões eletrônicos para ler passaportes em aeroportos, para ajudar no envio de pedidos de passaporte e na “ferramenta de triagem de casamentos falsos” do departamento, que sinaliza possíveis casamentos falsos para investigação mais aprofundada. Uma avaliação interna do Ministério do Interior vista pelo Guardian mostra que a ferramenta sinaliza de forma desproporcional pessoas da Albânia, Grécia, Romênia e Bulgária.
O DWP (Departamento de Trabalho e Pensões), por sua vez, possui um “serviço integrado de risco e inteligência”, que utiliza um algoritmo para ajudar a detectar fraudes e erros entre os requerentes de benefícios. A deputada trabalhista Kate Osamor acredita que o uso deste algoritmo pode ter contribuído para que dezenas de búlgaros tenham subitamente os seus benefícios suspensos nos últimos anos, depois de terem sido falsamente sinalizados como fazendo reivindicações potencialmente fraudulentas.

Veja também:

Chefs de cozinha do Reino Unido aderem à campanha ambiental para tirar salmão do cardápio

O salmão é o produto de exportação alimentar mais valioso do Reino Unido. Saudável, com baixo teor de gorduras saturadas e rico em ômega-3, o salmão é uma história de sucesso. No entanto, um número crescente de chefs de elite estão virando as costas para o alimento, citando questões ambientais e de bem-estar na criação do salmão.

Este post foi modificado pela última vez em %s = human-readable time difference 11:45

Bárbara Pereira

Jornalista com experiência em produção multimídia, acredito que as redes sociais são essenciais para alcançar novos públicos e disseminar informações em linguagem acessível e descontraída. Divido minha paixão por comunicação com livros, viagens e gastronomia.