Lmsys
Pesquisadores da Lmsys publicaram recentemente um estudo detalhando o RouteLLM, uma estrutura de código aberto para roteamento econômico entre grandes modelos de linguagem (LLM).
O RouteLLM aprende a direcionar consultas entre um LLM mais poderoso e caro e um LLM mais fraco e barato, para otimizar custo e desempenho. O sistema funciona como um filtro, usando dados de preferência humana para determinar o roteamento correto de cada mensagem para o LLM mais adequado.
Em testes roteando consultas entre o GPT-4 e o Mixtral-8x7B, o RouteLLM alcançou economias significativas de custo, mantendo 95% do desempenho do GPT-4.
À medida que os LLMs se tornam mais poderosos, o roteamento inteligente pode ajudar a reduzir significativamente os custos, muitas vezes altos, mantendo a qualidade das saídas. No futuro, roteadores também podem ser usados para filtrar consultas de usuários para os LLMs mais capacitados ou especializados, aproveitando os pontos fortes e fracos de diferentes modelos.
Leia também:
Este post foi modificado pela última vez em 2 de julho de 2024 16:04
O All England Lawn Tennis Club está usando inteligência artificial (IA) pela primeira vez para…
Seguradoras temem que ataques terroristas ou imagens falsas geradas por inteligência artificial (IA) possam atrapalhar…
A CESAR School, em parceria com diversas universidades brasileiras, recebe na capital pernambucana, entre 8…
A Samsung Electronics superou estimativas e anunciou na sexta-feira (5) um aumento de mais de…
Prepare-se para uma nova era na direção: um trecho de 3 km da Interstate 94…
As principais gigantes da tecnologia chinesa, assim como startups ambiciosas, se reuniram na Conferência Mundial…