Ferramentas de IA e racismo: Um estudo preocupante

A pesquisa demonstra que os modelos de IA discriminam falantes do AAVE, associando-os a menor inteligência e empregabilidade. Isso reforça o racismo estrutural presente na sociedade.

Evidências

O estudo de Valentin Hoffman e seus colegas demonstra que os modelos de inteligência artificial:

Descrevem falantes do AAVE como “estúpidos” e “preguiçosos”.
Atribuem falantes do AAVE a empregos com salários mais baixos.
São mais propensos a recomendar a pena de morte para réus que usam AAVE.

Causas

Modelos de IA aprendem com dados da internet, que podem conter estereótipos racistas.
“Guardrails” éticos não eliminam o problema, apenas ensinam os modelos a serem mais discretos em seus preconceitos.

Consequências

Discriminação no mercado de trabalho.
Perpetuação de estereótipos raciais.
Decisões injustas no sistema de justiça criminal.

Racismo ambiental é uma realidade que atinge populações vulnerabilizadas

O racismo ambiental é um termo utilizado para se referir ao processo de discriminação que populações periferizadas ou compostas de minorias étnicas sofrem através da degradação ambiental. A expressão denuncia que a distribuição dos impactos ambientais não se dá de forma igual entre a população, sendo a parcela marginalizada e historicamente invisibilizada a mais afetada pela poluição e degradação ambiental.

Soluções

Regulamentação federal para o uso de IA em áreas sensíveis.
Desenvolvimento de modelos de IA mais justos e equitativos.
Conscientização sobre os riscos da IA discriminatória.

O desenvolvimento de ferramentas de IA exige atenção redobrada ao potencial de perpetuação de vieses e discriminações. A regulamentação e o desenvolvimento responsável são essenciais para garantir que a IA seja utilizada de forma justa e ética.

Leia também:

IR 2024: Receita lança chatbot para ajudar na declaração; conheça o Leo