Ferramentas de IA e racismo: Um estudo preocupante

Um novo estudo revela que ferramentas populares de IA, como ChatGPT da OpenAI e Gemini do Google, perpetuam estereótipos racistas contra falantes do dialeto AAVE (inglês vernacular afro-americano).

Publicado por

Isabella Caminoto

18 de março de 2024 15:00

A pesquisa demonstra que os modelos de IA discriminam falantes do AAVE, associando-os a menor inteligência e empregabilidade. Isso reforça o racismo estrutural presente na sociedade.

Evidências

O estudo de Valentin Hoffman e seus colegas demonstra que os modelos de inteligência artificial:

Descrevem falantes do AAVE como “estúpidos” e “preguiçosos”.
Atribuem falantes do AAVE a empregos com salários mais baixos.
São mais propensos a recomendar a pena de morte para réus que usam AAVE.

Causas

Modelos de IA aprendem com dados da internet, que podem conter estereótipos racistas.
“Guardrails” éticos não eliminam o problema, apenas ensinam os modelos a serem mais discretos em seus preconceitos.

Consequências

Discriminação no mercado de trabalho.
Perpetuação de estereótipos raciais.
Decisões injustas no sistema de justiça criminal.

Racismo ambiental é uma realidade que atinge populações vulnerabilizadas

O racismo ambiental é um termo utilizado para se referir ao processo de discriminação que populações periferizadas ou compostas de minorias étnicas sofrem através da degradação ambiental. A expressão denuncia que a distribuição dos impactos ambientais não se dá de forma igual entre a população, sendo a parcela marginalizada e historicamente invisibilizada a mais afetada pela poluição e degradação ambiental.

Soluções

Regulamentação federal para o uso de IA em áreas sensíveis.
Desenvolvimento de modelos de IA mais justos e equitativos.
Conscientização sobre os riscos da IA discriminatória.

O desenvolvimento de ferramentas de IA exige atenção redobrada ao potencial de perpetuação de vieses e discriminações. A regulamentação e o desenvolvimento responsável são essenciais para garantir que a IA seja utilizada de forma justa e ética.

Leia também:

IR 2024: Receita lança chatbot para ajudar na declaração; conheça o Leo

A Receita Federal lançou o Leo, um chatbot de inteligência artificial (IA) para auxiliar os contribuintes na temida (mas necessária!) declaração do Imposto de Renda.

Este post foi modificado pela última vez em %s = human-readable time difference 12:10

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.