Inteligência Artificial

O esquecimento seletivo pode ajudar a IA a aprender melhor; entenda

Uma equipe de cientistas da computação desenvolveu um modelo de aprendizado de máquina mais ágil e adaptável. A novidade: ele melhora sua capacidade de aprender novos idiomas ao "esquecer" periodicamente partes do que já sabe.

Publicado por
Isabella Caminoto
  • Modelos atuais de linguagem IA: Esses modelos baseiam-se em redes neurais artificiais que aprendem por meio de um processo complexo de ajuste do fluxo de informações entre os neurônios. Esse processo é exigente em recursos e inflexível para adicionar novos idiomas ou se adaptar a mudanças.
  • Abordagem inovadora de aprendizagem: O novo método envolve treinar inicialmente uma rede neural em um idioma, em seguida, apagar a camada de incorporação que contém os blocos de construção das palavras (tokens) e retreiná-la com outro idioma. Isso permite que o modelo armazene informações abstratas sobre conceitos linguísticos, possibilitando um aprendizado mais eficaz de novos idiomas.
  • Técnica de “esquecimento periódico”: Ao invés de uma eliminação e retreinamento únicos, os pesquisadores propõem zerar periodicamente a camada de incorporação durante a fase inicial de treinamento. Isso acostuma o modelo à redefinição, simplificando o processo de aprendizagem de idiomas adicionais posteriormente.

Por que isso importa

  • Aprendizagem aprimorada de línguas: O modelo de “esquecimento periódico” mostrou-se mais eficiente na aquisição de novos idiomas, mantendo maior precisão com conjuntos de dados menores e sob restrições computacionais. Isso sugere uma compreensão mais profunda da linguagem além do mero significado das palavras.
  • Flexibilidade e adaptação: A incorporação de processos semelhantes aos humanos na inteligência artificial pode levar a modelos de linguagem mais flexíveis e adaptáveis.
  • Acessibilidade a mais idiomas: A flexibilidade oferecida por este novo modelo promete expandir as inovações em IA para idiomas menos comuns, como o basco.

Leia também:

Este post foi modificado pela última vez em %s = human-readable time difference 17:04

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.

Posts recentes

Google se associa à Apptronik para desenvolver robôs humanoides

O Google DeepMind acaba de anunciar uma parceria estratégica com a Apptronik, uma empresa de…

20 de dezembro de 2024

Genesis: Um novo patamar para simulações físicas em IA

Uma equipe de pesquisadores de 20 laboratórios diferentes acaba de apresentar o Genesis, um motor…

20 de dezembro de 2024

Google lança seu próprio modelo de IA de “raciocínio”

O Google acabou de lançar o que está chamando de um novo modelo de inteligência…

19 de dezembro de 2024

GitHub Copilot agora é gratuito

A GitHub, de propriedade da Microsoft, acaba de anunciar um nível gratuito de seu Copilot…

19 de dezembro de 2024

ChatGPT ganha um novo número de telefone; veja

A OpenAI acaba de lançar uma nova maneira surpreendente de acessar o ChatGPT - através…

19 de dezembro de 2024

Google lança novo benchmark para testar a factualidade de LLMs

O Google DeepMind acaba de lançar o FACTS Grounding, um novo benchmark projetado para avaliar…

18 de dezembro de 2024