Um novo estudo da OpenAI investigou a presença de vieses na linguagem usada pelo ChatGPT, modelo de inteligência artificial (IA) para geração de texto. O estudo analisou as respostas do ChatGPT a usuários com diferentes nomes, associados a gêneros, etnias e origens culturais variados.
PUBLICIDADE
Os resultados mostraram que o ChatGPT apresentou um nível mínimo de viés nas interações diretas. No entanto, em tarefas abertas, como escrita criativa, foram identificadas algumas respostas que reforçavam estereótipos.
Isso indica que, apesar dos esforços para reduzir o viés nos modelos de linguagem, ainda há espaço para melhorias. A OpenAI ressalta a importância de se analisar a IA em diferentes cenários, pois vieses podem se manifestar de forma sutil, dependendo do contexto.
O estudo reforça a necessidade contínua de pesquisa e desenvolvimento para garantir que a IA seja justa e inclusiva.
PUBLICIDADE
Leia também:
