Ferramentas de IA e racismo: Um estudo preocupante

Um novo estudo revela que ferramentas populares de IA, como ChatGPT da OpenAI e Gemini do Google, perpetuam estereótipos racistas contra falantes do dialeto AAVE (inglês vernacular afro-americano).

Publicado por

Isabella Caminoto

18 de março de 2024 15:00

A pesquisa demonstra que os modelos de IA discriminam falantes do AAVE, associando-os a menor inteligência e empregabilidade. Isso reforça o racismo estrutural presente na sociedade.

Evidências

O estudo de Valentin Hoffman e seus colegas demonstra que os modelos de inteligência artificial:

Descrevem falantes do AAVE como “estúpidos” e “preguiçosos”.
Atribuem falantes do AAVE a empregos com salários mais baixos.
São mais propensos a recomendar a pena de morte para réus que usam AAVE.

Causas

Modelos de IA aprendem com dados da internet, que podem conter estereótipos racistas.
“Guardrails” éticos não eliminam o problema, apenas ensinam os modelos a serem mais discretos em seus preconceitos.

Consequências

Discriminação no mercado de trabalho.
Perpetuação de estereótipos raciais.
Decisões injustas no sistema de justiça criminal.

Racismo ambiental é uma realidade que atinge populações vulnerabilizadas

O racismo ambiental é um termo utilizado para se referir ao processo de discriminação que populações periferizadas ou compostas de minorias étnicas sofrem através da degradação ambiental. A expressão denuncia que a distribuição dos impactos ambientais não se dá de forma igual entre a população, sendo a parcela marginalizada e historicamente invisibilizada a mais afetada pela poluição e degradação ambiental.

Soluções

Regulamentação federal para o uso de IA em áreas sensíveis.
Desenvolvimento de modelos de IA mais justos e equitativos.
Conscientização sobre os riscos da IA discriminatória.

O desenvolvimento de ferramentas de IA exige atenção redobrada ao potencial de perpetuação de vieses e discriminações. A regulamentação e o desenvolvimento responsável são essenciais para garantir que a IA seja utilizada de forma justa e ética.

Leia também:

IR 2024: Receita lança chatbot para ajudar na declaração; conheça o Leo

A Receita Federal lançou o Leo, um chatbot de inteligência artificial (IA) para auxiliar os contribuintes na temida (mas necessária!) declaração do Imposto de Renda.

Este post foi modificado pela última vez em 18 de março de 2024 12:10

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.