Inteligência Artificial

Novo benchmark de IA testa a velocidade de respostas às consultas dos usuários

O grupo de benchmarking de inteligência artificial (IA) MLCommons divulgou na quarta-feira (27) um novo conjunto de testes e resultados que avaliam a velocidade com que o hardware de última geração pode executar aplicativos de IA e responder aos usuários.

Publicado por
Juliana Caminoto

Os dois novos benchmarks adicionados pela MLCommons medem a velocidade com que os chips e sistemas de inteligência artificial podem gerar respostas a partir dos poderosos modelos de IA repletos de dados. Os resultados demonstram aproximadamente a rapidez com que um aplicativo de IA como o ChatGPT pode fornecer uma resposta a uma consulta do usuário.

Um dos novos benchmarks adicionou a capacidade de medir a rapidez de um cenário de perguntas e respostas para grandes modelos de linguagem. Chamado de Llama 2, inclui 70 bilhões de parâmetros e foi desenvolvido pela Meta Platforms.

Os funcionários da MLCommons também adicionaram um segundo gerador de texto para imagem ao conjunto de ferramentas de benchmarking, chamado MLPerf, baseado no modelo Stable Diffusion XL da Stability AI.

O desempenho bruto não é a única medida crítica na implantação de aplicativos de inteligência artificial. Os chips avançados de IA absorvem enormes quantidades de energia e um dos desafios mais significativos para as empresas que utilizam esta tecnologia é implantar chips que forneçam uma quantidade ideal de desempenho com uma quantidade mínima de energia. 

Leia também:

Este post foi modificado pela última vez em %s = human-readable time difference 13:56

Juliana Caminoto

Advogada com especialização em compliance e auditoria, estou sempre conectada às redes sociais e em busca de novos desafios. Sou mãe de pet e amo viajar.

Posts recentes

Google se associa à Apptronik para desenvolver robôs humanoides

O Google DeepMind acaba de anunciar uma parceria estratégica com a Apptronik, uma empresa de…

20 de dezembro de 2024

Genesis: Um novo patamar para simulações físicas em IA

Uma equipe de pesquisadores de 20 laboratórios diferentes acaba de apresentar o Genesis, um motor…

20 de dezembro de 2024

Google lança seu próprio modelo de IA de “raciocínio”

O Google acabou de lançar o que está chamando de um novo modelo de inteligência…

19 de dezembro de 2024

GitHub Copilot agora é gratuito

A GitHub, de propriedade da Microsoft, acaba de anunciar um nível gratuito de seu Copilot…

19 de dezembro de 2024

ChatGPT ganha um novo número de telefone; veja

A OpenAI acaba de lançar uma nova maneira surpreendente de acessar o ChatGPT - através…

19 de dezembro de 2024

Google lança novo benchmark para testar a factualidade de LLMs

O Google DeepMind acaba de lançar o FACTS Grounding, um novo benchmark projetado para avaliar…

18 de dezembro de 2024