Workday enfrenta nova ação judicial por viés em seu software de IA

Uma juíza federal na Califórnia, nos EUA, rejeitou a tentativa da Workday de encerrar uma ação coletiva que alega que o software da empresa – impulsionado por inteligência artificial (IA) – utilizado para filtrar candidatos a emprego para outras empresas, perpetua preconceitos existentes.

Na primeira decisão desse tipo, a juíza distrital Rita Lin, na sexta-feira (12), afirmou que a Workday poderia ser considerada uma empregadora coberta pelas leis federais que proíbem a discriminação no local de trabalho, porque realiza funções de triagem que seus clientes normalmente fariam por conta própria.

Lin recusou-se a rejeitar várias alegações em um processo de 2023 por Derek Mobley, que afirma ter sido rejeitado para mais de 100 empregos em empresas que contratam com a Workday porque ele é negro, tem mais de 40 anos e sofre de ansiedade e depressão.

O caso é a primeira ação coletiva proposta a desafiar o uso de software de triagem por IA e pode estabelecer um precedente importante sobre as implicações legais do uso de IA para automatizar funções de contratação e outras funções de emprego, algo que a maioria das grandes empresas está fazendo agora.

Lin descartou alegações de que a Workday intencionalmente discriminou com base em raça e idade. Ela também decidiu que a empresa não pode ser considerada uma “agência de emprego” sob as leis anti-discriminação porque, ao contrário de uma empresa de recrutamento, não fornece oportunidades de emprego para os trabalhadores.

Um porta-voz da Workday afirmou em um comunicado que a empresa ficou satisfeita com a decisão de Lin de rejeitar algumas das alegações. “Estamos confiantes de que as alegações restantes serão facilmente refutadas à medida que avançamos para a próxima fase, onde teremos a oportunidade de desafiar diretamente sua precisão”, disse o porta-voz.

Os advogados de Mobley não responderam imediatamente a um pedido de comentário. A ação alega que a Workday utiliza dados da força de trabalho existente de uma empresa para treinar seu software de IA para selecionar os melhores candidatos, sem levar em conta a discriminação existente que esses dados podem refletir.

Mobley acusou a Workday de discriminação por raça, idade e deficiência, em violação do Título VII da Lei dos Direitos Civis de 1964 e outras leis federais anti-discriminação. A classe proposta poderia incluir centenas de milhares de pessoas.

A Workday argumenta que não está sujeita às leis de discriminação no local de trabalho porque não era a empregadora potencial de Mobley e não é uma agência de emprego que possa ser responsabilizada por discriminação, pois não toma decisões de contratação para seus clientes. Mas Lin disse na sexta-feira que as leis anti-discriminação foram criadas para proteger amplamente os trabalhadores e impedir que os empregadores terceirizem tarefas como a triagem de candidatos para escapar da responsabilidade, e que a Workday poderia ser responsabilizada como agente de seus clientes.

“A (ação) alega plausivelmente que os clientes da Workday delegam funções tradicionais de contratação, incluindo a rejeição de candidatos, às ferramentas de tomada de decisão algorítmica fornecidas pela Workday”, escreveu Lin, nomeada pelo presidente democrata Joe Biden.

A Comissão de Igualdade de Oportunidades de Emprego dos EUA, que aplica as leis federais que proíbem a discriminação no local de trabalho, havia instado Lin a permitir que o caso prosseguisse em um relatório de abril. A agência alertou os empregadores de que eles podem ser legalmente responsabilizados se não impedirem que o software de triagem tenha um impacto discriminatório.

Leia também: