Apple entra na corrida open source com modelo de IA de 7 bilhões de parâmetros

A Apple surpreendeu a comunidade de inteligência artificial (IA) ao lançar o DCLM-7B, um modelo de linguagem de 7 bilhões de parâmetros de código aberto. O modelo mostrou resultados impressionantes, superando o Mistral 7B e se aproximando de gigantes como Llama 3 e Gemma em benchmarks importantes.

O que isso significa?

A Apple não apenas compartilhou os pesos do modelo e o código de treinamento, mas também o conjunto de dados completo usado para treiná-lo. Isso é um movimento bastante incomum para a empresa. O DCLM-7B foi treinado em 2,5 trilhões de tokens, utilizando receitas de pré-treinamento baseadas no framework OpenLM.

Por que isso importa?

Embora a Apple tenha sido um pouco lenta em adotar a tendência open source, essa decisão é uma vitória para desenvolvedores e pesquisadores em todo o mundo. Ter acesso não apenas ao modelo, mas também aos detalhes completos do seu desenvolvimento é uma oportunidade incrível para avançar a pesquisa em IA.

Com esse lançamento, a Apple se posiciona como um jogador importante na corrida open source, e a comunidade já aguarda ansiosamente para explorar as possibilidades que o DCLM-7B oferece.

Leia também: