Estudo sugere que ChatGPT tem maior tendência a condenar à morte pessoas que falam inglês afro-americano

Publicado no início de março, o artigo estudou como grandes modelos de linguagem, ou LLMs, realizavam tarefas, como emparelhar pessoas para determinados empregos, com base no fato do texto analisado estar em inglês afro-americano ou inglês americano padrão – sem revelar raça. 

ChatGPT Is More Likely to Sentence People Who Speak African American English to Death, Researchers Say https://t.co/VH1alt15gF pic.twitter.com/QKGqi8fAkn

— Gizmodo (@Gizmodo) March 7, 2024

Eles descobriram que os LLMs eram menos propensos a associar falantes de inglês afro-americano a uma ampla gama de empregos e mais propensos a combiná-los com profissões que não exigem um diploma universitário, como cozinheiros, soldados ou guardas.

Os investigadores também realizaram experiências hipotéticas nas quais perguntaram aos modelos de IA se condenariam ou absolveriam uma pessoa acusada de um crime não especificado. A taxa de condenação para todos os modelos de IA foi maior para pessoas que falavam inglês afro-americano, descobriram eles, em comparação com o inglês americano padrão.

Estudo do Reino Unido encontra viés discriminatório em ferramentas de IA para saúde

Integrantes de minorias étnicas, mulheres e pessoas de comunidades carentes estão correndo risco de receber cuidados de saúde mais precários devido a discriminação dentro das ferramentas de IA e dispositivos médicos, revelou um relatório.

Talvez a descoberta mais chocante do artigo – que foi publicado mas ainda não foi revisado – é de que tenha vindo de um segundo experimento relacionado à criminalidade. Os pesquisadores perguntaram aos modelos se eles condenariam à vida ou à morte uma pessoa que cometesse assassinato em primeiro grau. O dialeto do indivíduo foi a única informação fornecida aos modelos do experimento.

Eles descobriram que os LLMs optaram por condenar à morte pessoas que falavam inglês afro-americano em uma taxa mais elevada do que pessoas que falavam inglês americano padrão.

Ainda, ficou demonstrado que o preconceito encoberto era maior em LLMs treinados com feedback humano. Especificamente, afirmaram que a discrepância entre racismo aberto e encoberto era mais pronunciada nos modelos GPT-3.5 e GPT-4 da OpenAI.

Meta AI segue o Google Gemini e cria imagens que não respeitam precisões históricas

O gerador de imagens Imagine, da Meta AI, está enfrentando críticas por produzir imagens de inteligência artificial (IA) que amplificam preconceitos ou criam resultados inverídicos. Apesar das tentativas de diversidade, a ferramenta da Meta frequentemente exibe uma variedade de saídas que não respeitam precisões históricas, como mostrar papas negros.

“Esta descoberta mostra mais uma vez que existe uma diferença fundamental entre estereótipos evidentes e encobertos nos modelos de linguagem – a mitigação dos estereótipos evidentes não se traduz automaticamente em estereótipos encobertos atenuados”, escrevem os autores.

No geral, os autores concluem que esta descoberta contraditória sobre preconceitos raciais manifestos reflete as atitudes inconsistentes sobre a raça nos EUA.

Leia também:

ChatGPT consome tanta energia por dia quanto 170.000 casas nos EUA

As tecnologias de inteligência artificial (IA), especialmente o ChatGPT da OpenAI, consomem uma quantidade significativa de energia.