Mistral AI lança dois novos modelos compactos de linguagem

A startup francesa de inteligência artificial (IA), Mistral AI acaba de lançar dois novos modelos compactos de linguagem projetados para trazer poderosas capacidades de IA para dispositivos de ponta, como telefones e laptops.

Os detalhes

• A nova família “Les Ministraux” inclui os modelos Ministral 3B e Ministral 8B, que têm apenas 3B e 8B de parâmetros, respectivamente.
• Apesar de seu pequeno tamanho, os modelos superam concorrentes como Gemma e Llama em benchmarks, incluindo o modelo Mistral 7B do ano passado.
• O Ministral 8B usa um novo mecanismo de “atenção deslizante intercalada” para processar sequências longas de forma eficiente.
• Os modelos são projetados para casos de uso em dispositivos, como tradução local, assistentes offline e robótica autônoma.

Por que isso importa

Enquanto aguardamos o lançamento iminente do Apple Intelligence como a primeira experiência de IA em dispositivos de muitos usuários, modelos menores que podem ser executados eficientemente e localmente em telefones e computadores continuam a subir de nível. Ter um LLM de primeira linha na palma da sua mão está prestes a se tornar uma norma, não um luxo.

Leia também: