Estudo de Stanford expõe viés racial em ferramentas de IA usadas para contratação

A promessa de neutralidade da inteligência artificial (IA) no mercado de trabalho acaba de sofrer um novo abalo. Um estudo conduzido pela Stanford University identificou “disparidades raciais claras” em ferramentas de recrutamento automatizado utilizadas por empresas para selecionar candidatos a vagas de emprego. A pesquisa analisou cerca de 4 milhões de candidaturas distribuídas entre 156 empregadores e concluiu que candidatos negros e asiáticos foram desproporcionalmente eliminados pelos sistemas de triagem automatizada.

A investigação se concentrou em dados da Pymetrics, empresa conhecida por desenvolver testes comportamentais e algoritmos de avaliação para recrutamento corporativo. Segundo os pesquisadores, 10,62% das posições analisadas apresentaram impacto adverso contra candidatos negros, enquanto 5,32% mostraram efeitos negativos contra candidatos asiáticos. O estudo foi reportado pelo Financial Times.

O dado mais alarmante, porém, não está apenas na existência do viés — algo que já vinha sendo debatido há anos —, mas no efeito sistêmico provocado pela reutilização dos mesmos modelos de IA em diferentes empresas. Os pesquisadores descobriram que 42 modelos algorítmicos eram compartilhados entre múltiplos empregadores. Na prática, isso significa que um candidato rejeitado por um algoritmo em uma empresa poderia acabar sendo automaticamente desfavorecido em várias outras organizações que utilizam o mesmo sistema.

Esse fenômeno cria um tipo de “efeito dominó algorítmico”. Em vez de processos seletivos independentes, vários recrutadores passam a depender da mesma lógica automatizada de filtragem. O resultado é que determinados grupos podem ser excluídos em larga escala sem que as empresas sequer percebam que estão replicando o mesmo padrão discriminatório.

Os números reforçam essa hipótese. O estudo identificou que 4% dos candidatos que aplicaram para dez vagas diferentes foram rejeitados em todas elas — uma taxa significativamente maior do que seria esperado caso as empresas estivessem tomando decisões independentes entre si. Para os autores, isso sugere que a infraestrutura compartilhada de IA pode amplificar vieses ocultos em escala industrial.

O problema se torna ainda mais delicado porque sistemas de contratação automatizada são frequentemente vendidos como ferramentas capazes de reduzir preconceitos humanos. A ideia é simples: substituir decisões subjetivas de recrutadores por análises “objetivas” baseadas em dados. Mas a realidade da IA moderna mostra que algoritmos aprendem padrões a partir de dados históricos — e esses dados frequentemente carregam desigualdades sociais já existentes.

Se historicamente determinados grupos tiveram menos acesso a cargos de prestígio, salários elevados ou oportunidades educacionais, os sistemas podem acabar interpretando esses padrões como sinais de “sucesso esperado”, reproduzindo exclusões anteriores sob aparência matemática.

Os pesquisadores ressaltam que os resultados não necessariamente representam todas as ferramentas modernas de contratação baseadas em IA. O período analisado vai de 2018 a 2022, antes da explosão recente dos grandes modelos de linguagem (LLMs), como os utilizados em chatbots generativos atuais. Ainda assim, o estudo serve como um alerta importante para a nova onda de automação corporativa impulsionada pela IA generativa.

Isso porque o risco de viés não desaparece com modelos mais avançados — ele apenas muda de forma. Enquanto sistemas antigos utilizavam testes psicométricos e análises estatísticas específicas, os LLMs operam sobre volumes gigantescos de texto e comportamento humano coletados da internet e de bancos de dados corporativos. Esses materiais também refletem desigualdades históricas, culturais e econômicas.

Outro ponto central levantado pela pesquisa é a dificuldade de auditoria. Muitas empresas utilizam plataformas terceirizadas de recrutamento sem acesso real aos critérios internos dos algoritmos. Assim, quando um modelo apresenta viés, dezenas ou até centenas de companhias podem ser impactadas simultaneamente sem compreender exatamente como as decisões estão sendo tomadas.

O caso reforça o movimento crescente por regulamentação da IA em processos sensíveis, como contratações, crédito bancário, saúde e segurança pública. Nos últimos anos, governos da United States e da European Union passaram a discutir regras mais rígidas para sistemas automatizados de decisão, especialmente aqueles capazes de afetar diretamente oportunidades econômicas e direitos civis.

Para especialistas, o desafio agora não é apenas tornar a IA mais eficiente, mas garantir transparência, auditoria e responsabilidade sobre os modelos utilizados. Afinal, quando um único fornecedor algorítmico influencia decisões em centenas de empresas, um erro invisível pode rapidamente se transformar em discriminação em escala global.

Leia também: