Enquanto você se comunica com chatbots de IA na sua língua nativa, por trás das respostas, a IA pode estar processando informações em inglês. Isso se deve aos conjuntos de dados usados para treinar os modelos de linguagem, o que pode reproduzir vieses culturais de cada idioma.
Créditos da imagem: Curto News/Bing AI

IA “pensa” em inglês, mesmo falando em outro idioma

Enquanto você se comunica com chatbots de IA na sua língua nativa, por trás das respostas, a IA pode estar processando informações em inglês. Isso se deve aos conjuntos de dados usados para treinar os modelos de linguagem, o que pode reproduzir vieses culturais de cada idioma.

Pesquisadores da EPFL, uma universidade suíça, levantaram essa hipótese ao testar o Llama-2, um modelo de linguagem de código aberto da Meta. Eles observaram que, independentemente do idioma utilizado, os mecanismos subjacentes da IA operam em inglês. Isso é explicado pelo funcionamento dos modelos de linguagem, que associam palavras a vetores numéricos para prever a próxima palavra com base no contexto.

PUBLICIDADE

Ao testarem o Llama-2 com diferentes línguas, os pesquisadores notaram resultados semelhantes ao inglês durante a análise preditiva, mesmo quando a inteligência artificial estava operando em francês ou chinês. Isso levou a duas hipóteses: a primeira sugere que a IA traduz o input para inglês, realiza a tarefa e depois traduz de volta para o idioma de saída. A segunda hipótese é mais complexa, sugerindo que a IA recorre ao inglês para ter um repertório adequado sobre o contexto e conceitos abordados.

Essa preferência pelo inglês pode acarretar riscos culturais, já que os conceitos variam de acordo com o idioma. Assim, embora esperasse-se que a IA tivesse uma visão de mundo diferente para cada língua, isso não ocorre devido à predominância dos termos em inglês nos conjuntos de dados e na aplicação dos conceitos.

Leia também:

Rolar para cima