Enquanto você se comunica com chatbots de IA na sua língua nativa, por trás das respostas, a IA pode estar processando informações em inglês. Isso se deve aos conjuntos de dados usados para treinar os modelos de linguagem, o que pode reproduzir vieses culturais de cada idioma.
Pesquisadores da EPFL, uma universidade suíça, levantaram essa hipótese ao testar o Llama-2, um modelo de linguagem de código aberto da Meta. Eles observaram que, independentemente do idioma utilizado, os mecanismos subjacentes da IA operam em inglês. Isso é explicado pelo funcionamento dos modelos de linguagem, que associam palavras a vetores numéricos para prever a próxima palavra com base no contexto.
Ao testarem o Llama-2 com diferentes línguas, os pesquisadores notaram resultados semelhantes ao inglês durante a análise preditiva, mesmo quando a inteligência artificial estava operando em francês ou chinês. Isso levou a duas hipóteses: a primeira sugere que a IA traduz o input para inglês, realiza a tarefa e depois traduz de volta para o idioma de saída. A segunda hipótese é mais complexa, sugerindo que a IA recorre ao inglês para ter um repertório adequado sobre o contexto e conceitos abordados.
Essa preferência pelo inglês pode acarretar riscos culturais, já que os conceitos variam de acordo com o idioma. Assim, embora esperasse-se que a IA tivesse uma visão de mundo diferente para cada língua, isso não ocorre devido à predominância dos termos em inglês nos conjuntos de dados e na aplicação dos conceitos.
Leia também:
Este post foi modificado pela última vez em %s = human-readable time difference 09:19
O Google DeepMind acaba de anunciar uma parceria estratégica com a Apptronik, uma empresa de…
Uma equipe de pesquisadores de 20 laboratórios diferentes acaba de apresentar o Genesis, um motor…
O Google acabou de lançar o que está chamando de um novo modelo de inteligência…
A GitHub, de propriedade da Microsoft, acaba de anunciar um nível gratuito de seu Copilot…
A OpenAI acaba de lançar uma nova maneira surpreendente de acessar o ChatGPT - através…
O Google DeepMind acaba de lançar o FACTS Grounding, um novo benchmark projetado para avaliar…