Inteligência Artificial

Novo benchmark de IA testa a velocidade de respostas às consultas dos usuários

O grupo de benchmarking de inteligência artificial (IA) MLCommons divulgou na quarta-feira (27) um novo conjunto de testes e resultados que avaliam a velocidade com que o hardware de última geração pode executar aplicativos de IA e responder aos usuários.

Publicado por
Juliana Caminoto

Os dois novos benchmarks adicionados pela MLCommons medem a velocidade com que os chips e sistemas de inteligência artificial podem gerar respostas a partir dos poderosos modelos de IA repletos de dados. Os resultados demonstram aproximadamente a rapidez com que um aplicativo de IA como o ChatGPT pode fornecer uma resposta a uma consulta do usuário.

Um dos novos benchmarks adicionou a capacidade de medir a rapidez de um cenário de perguntas e respostas para grandes modelos de linguagem. Chamado de Llama 2, inclui 70 bilhões de parâmetros e foi desenvolvido pela Meta Platforms.

Os funcionários da MLCommons também adicionaram um segundo gerador de texto para imagem ao conjunto de ferramentas de benchmarking, chamado MLPerf, baseado no modelo Stable Diffusion XL da Stability AI.

O desempenho bruto não é a única medida crítica na implantação de aplicativos de inteligência artificial. Os chips avançados de IA absorvem enormes quantidades de energia e um dos desafios mais significativos para as empresas que utilizam esta tecnologia é implantar chips que forneçam uma quantidade ideal de desempenho com uma quantidade mínima de energia. 

Leia também:

Este post foi modificado pela última vez em %s = human-readable time difference 13:56

Juliana Caminoto

Advogada com especialização em compliance e auditoria, estou sempre conectada às redes sociais e em busca de novos desafios. Sou mãe de pet e amo viajar.

Posts recentes

DeepMind dá um salto gigante na computação quântica com o AlphaQubit

O Google DeepMind acaba de apresentar o AlphaQubit, um sistema de inteligência artificial (IA) que…

21 de novembro de 2024

ChatGPT está mais perto de lançar sua IA visual

Um código recém-descoberto na última versão beta do ChatGPT sugere que a OpenAI pode estar…

21 de novembro de 2024

DeepSeek revela poderosa IA de raciocínio; veja

A empresa chinesa de pesquisa em inteligência artificial (IA), DeepSeek, acaba de lançar o R1-Lite-Preview,…

21 de novembro de 2024

OpenAI lança curso gratuito de IA para professores

A OpenAI e a parceira sem fins lucrativos Common Sense Media lançaram um curso de…

20 de novembro de 2024

Robôs da Figure transformam produção da BMW; saiba como

Brett Adcock, CEO da Figure, postou uma atualização sobre os robôs humanoides da empresa trabalhando…

20 de novembro de 2024

Microsoft revela agentes de IA especializados e ferramentas de automação

A Microsoft acaba de apresentar uma suíte de novos agentes de inteligência artificial (IA) especializados…

20 de novembro de 2024