OpenAI revela vieses residuais em respostas do ChatGPT

Publicado por

Isabella Caminoto

17 de outubro de 2024 17:27

Um novo estudo da OpenAI investigou a presença de vieses na linguagem usada pelo ChatGPT, modelo de inteligência artificial (IA) para geração de texto. O estudo analisou as respostas do ChatGPT a usuários com diferentes nomes, associados a gêneros, etnias e origens culturais variados.

Os resultados mostraram que o ChatGPT apresentou um nível mínimo de viés nas interações diretas. No entanto, em tarefas abertas, como escrita criativa, foram identificadas algumas respostas que reforçavam estereótipos.

Isso indica que, apesar dos esforços para reduzir o viés nos modelos de linguagem, ainda há espaço para melhorias. A OpenAI ressalta a importância de se analisar a IA em diferentes cenários, pois vieses podem se manifestar de forma sutil, dependendo do contexto.

O estudo reforça a necessidade contínua de pesquisa e desenvolvimento para garantir que a IA seja justa e inclusiva.

Leia também:

Mistral AI lança dois novos modelos compactos de linguagem

Este post foi modificado pela última vez em 17 de outubro de 2024 17:28

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.