Salesforce avança em modelos compactos; saiba mais

A Salesforce acaba de publicar uma nova pesquisa sobre o APIGen, um sistema automatizado que gera conjuntos de dados ideais para o treinamento de inteligência artificial (IA) em tarefas de chamada de função. Isso permitiu que o modelo xLAM da empresa superasse rivais muito maiores.

Entenda a inovação:

• O APIGen foi criado para treinar modelos em conjuntos de dados que refletem melhor a complexidade real do uso de APIs (interfaces de programação de aplicativos).
• A Salesforce treinou versões do xLAM com 7 bilhões e 1 bilhão de parâmetros usando o APIGen, testando-as em benchmarks de chamada de função.
• O modelo xLAM de 7 bilhões de parâmetros ficou em 6º lugar entre 46 modelos, igualando ou superando rivais 10 vezes maiores, incluindo o GPT-4.
• O “Tiny Giant” xLAM de 1 bilhão de parâmetros superou modelos como Claude Haiku e GPT-3.5, com o CEO Mark Benioff chamando-o de o melhor “micro-modelo” para chamada de função.

Por que isso é importante:

A corrida da IA tem se concentrado em construir modelos cada vez maiores. A abordagem da Salesforce sugere que a curadoria inteligente de dados pode levar a sistemas mais eficientes. A pesquisa também é um grande passo em direção a uma IA on-device (em dispositivos) mais autônoma, concentrando o poder de modelos grandes em um formato compacto.

Leia também: