Amazon och Hugging Face går ihop för att köra AI-modeller på anpassade chips

Amazon Web Services (AWS), cloud computing-avdelningen för Amazon.com, tillkännagav på onsdagen (24) ett partnerskap med startupen inteligência artificiell (AI) Kramande ansikte. Målet är att göra det enklare att köra tusentals AI-modeller på företagets anpassade chips. amason.

Värderat till 4,5 miljarder dollar har Hugging Face blivit ett avgörande nav för AI-forskare och -utvecklare att dela chatbots och annan AI-programvara. Startupen har stöd av jättar som Amazon själv, Google (Alfabet) och Nvidia. Den fungerar som huvudnavet för att erhålla och ställa in AI-modeller med öppen källkod, som Llama 3 från Meta Platforms.

Efter att ha finjusterat en AI-modell med öppen källkod försöker utvecklare ofta implementera den i programvara. Det annonserade partnerskapet kommer att tillåta dessa modeller att köras på Inferentia2-chippet, utvecklat av AWS.

"För oss är effektivitet grundläggande. Vi vill säkerställa att så många som möjligt kan köra modeller kostnadseffektivt.” säger Jeff Boudier, chef för produkt och tillväxt på Hugging Face.

AWS hoppas kunna locka fler AI-utvecklare till sina molntjänster. Medan Nvidia dominerar modellutbildningsmarknaden, hävdar AWS att dess chips kan köra dessa tränade modeller (en process som kallas slutledning) till en lägre kostnad i det långa loppet.

”Man tränar de här modellerna kanske en gång i månaden. Men slutsatser kan dras tiotusentals gånger per timme. Det är här Inferentia2 sticker ut, förklarar Matt Wood, ansvarig för artificiell intelligens-produkter på AWS.

Läs också: