A startup francesa de inteligência artificial (IA), Mistral AI acaba de lançar dois novos modelos compactos de linguagem projetados para trazer poderosas capacidades de IA para dispositivos de ponta, como telefones e laptops.
PUBLICIDADE
Os detalhes
- A nova família “Les Ministraux” inclui os modelos Ministral 3B e Ministral 8B, que têm apenas 3B e 8B de parâmetros, respectivamente.
- Apesar de seu pequeno tamanho, os modelos superam concorrentes como Gemma e Llama em benchmarks, incluindo o modelo Mistral 7B do ano passado.
- O Ministral 8B usa um novo mecanismo de “atenção deslizante intercalada” para processar sequências longas de forma eficiente.
- Os modelos são projetados para casos de uso em dispositivos, como tradução local, assistentes offline e robótica autônoma.
Por que isso importa
Enquanto aguardamos o lançamento iminente do Apple Intelligence como a primeira experiência de IA em dispositivos de muitos usuários, modelos menores que podem ser executados eficientemente e localmente em telefones e computadores continuam a subir de nível. Ter um LLM de primeira linha na palma da sua mão está prestes a se tornar uma norma, não um luxo.
Leia também:
