Hugging Face lança novos modelos de geração de código StarCoder

O Hugging Face revelou a versão mais recente de seu modelo de geração de código StarCoder – contando com a ajuda da Nvidia para trazê-lo à vida.

Publicado por

Isabella Caminoto

6 de março de 2024 11:00

O StarCoder original, construído em conjunto com o ServiceNow, foi lançado em maio passado. Esta nova versão, StarCoder2, pode gerar código em mais de 600 linguagens de programação.

O StarCoder2 vem em três tamanhos, mas foi projetado para ser pequeno – a versão maior tem 15 bilhões de parâmetros – para que os desenvolvedores possam executá-lo com mais eficiência em seus PCs.

Hugging Face e Google se unem para colaboração aberta em IA

A Hugging Face e o Google Cloud anunciaram uma parceria estratégica para democratizar a aprendizagem de máquina de qualidade. A colaboração visa alavancar modelos abertos e tecnologias de código aberto para permitir que todas as empresas construam sua própria inteligência artificial (IA).

As novas versões do StarCoder também são mais poderosas, com o menor do grupo correspondendo ao desempenho do modelo original de 15 bilhões de parâmetros do StarCoder. StarCoder2-15B é o melhor em sua classe de tamanho e corresponde a modelos com o dobro do seu tamanho.

Participação da Nvidia

Uma nova adição ao projeto StarCoder foi a Nvidia. A infraestrutura da gigante fabricante de chips de IA foi usada para treinar a versão de 15 bilhões de parâmetros. A ServiceNow treinou o modelo 3B enquanto a Hugging Face assumiu a responsabilidade pela versão 7B.

A Nvidia também utilizou sua estrutura NeMo usada no desenvolvimento do maior modelo StarCoder2. NeMo permite que os usuários criem modelos e serviços de IA generativos personalizados.

Nvidia aposta na IA Soberana: Uma mudança estratégica para um mundo em transição

O CEO da Nvidia, Jensen Huang, enfatiza o conceito de “IA soberana” como um aspecto fundamental da estratégia da empresa, refletindo uma mudança em direção aos países desenvolvendo seus próprios sistemas de inteligência artificial (IA) usando dados localizados.

Jonathan Cohen, vice-presidente de pesquisa aplicada da Nvidia, disse que seu envolvimento no projeto StarCoder “introduz modelos seguros e desenvolvidos de forma responsável e apoia um acesso mais amplo à IA generativa responsável que acreditamos que beneficiará a comunidade global”.

Para acessar o conjunto de dados, vá para Hugging Face. Para baixá-lo em massa, os usuários precisam obter permissão do Software Heritage e Inria.

Como o The Stack v2 é composto de vários códigos-fonte, há várias licenças a serem enfrentadas, portanto, pode não estar claro se todo o conjunto de dados pode alimentar aplicativos comerciais. Hugging Face compilou uma lista das licenças relevantes para garantir a conformidade.

Leia também:

OpenAI forma uma aliança de IA sem Elon Musk; veja os detalhes

A OpenAI se alia a importantes líderes do mercado de inteligência artificial (IA) e de capital, como Meta, Google, SVAngel, YCombinator, MistralAI, Microsoft e Salesforce, que juntos assinaram uma carta aberta promovendo o desenvolvimento responsável de IA – uma resposta direta ao recente processo movido por Elon Musk acusando a empresa de priorizar o lucro sobre as pessoas.

Este post foi modificado pela última vez em 5 de março de 2024 15:55

Isabella Caminoto

Advogada e mestranda em Direito Internacional, tenho a democracia e a liberdade como bandeiras irrenunciáveis. Sou apaixonada pelos animais e acredito que o bem-estar do nosso planeta deveria ser o destaque diário da pauta da nossa sociedade.