Lmsys
Pesquisadores da Lmsys publicaram recentemente um estudo detalhando o RouteLLM, uma estrutura de código aberto para roteamento econômico entre grandes modelos de linguagem (LLM).
O RouteLLM aprende a direcionar consultas entre um LLM mais poderoso e caro e um LLM mais fraco e barato, para otimizar custo e desempenho. O sistema funciona como um filtro, usando dados de preferência humana para determinar o roteamento correto de cada mensagem para o LLM mais adequado.
Em testes roteando consultas entre o GPT-4 e o Mixtral-8x7B, o RouteLLM alcançou economias significativas de custo, mantendo 95% do desempenho do GPT-4.
À medida que os LLMs se tornam mais poderosos, o roteamento inteligente pode ajudar a reduzir significativamente os custos, muitas vezes altos, mantendo a qualidade das saídas. No futuro, roteadores também podem ser usados para filtrar consultas de usuários para os LLMs mais capacitados ou especializados, aproveitando os pontos fortes e fracos de diferentes modelos.
Leia também:
Este post foi modificado pela última vez em 2 de julho de 2024 16:04
A OpenAI deu um passo que pode redefinir o equilíbrio de poder no setor de…
Um dos maiores desafios da medicina moderna está nos chamados "casos sem resposta": pacientes que…
A Argentina deu um passo inédito na corrida global pela inteligência artificial (IA). O governo…
A corrida global pela inteligência artificial (IA) acaba de ganhar uma nova fronteira: o espaço.…
A inteligência artificial (IA) já deixou de ser uma promessa tecnológica distante para se tornar…
A inteligência artificial (IA) acaba de alcançar mais um marco simbólico na educação superior. Um…