Amazon og Hugging Face slår seg sammen for å kjøre AI-modeller på tilpassede brikker

Amazon Web Services (AWS), cloud computing-divisjonen til Amazon.com, kunngjorde onsdag (24) et samarbeid med oppstarten inteligência kunstig (AI) Klemme ansiktet. Målet er å gjøre det enklere å kjøre tusenvis av AI-modeller på selskapets tilpassede brikker. Amazon.

Med en verdi på 4,5 milliarder dollar har Hugging Face blitt et viktig knutepunkt for AI-forskere og -utviklere for å dele chatbots og annen AI-programvare. Oppstarten har støtte fra giganter som Amazon selv, Google (Alfabet) og Nvidia. Den fungerer som hovedknutepunktet for å skaffe og justere åpen kildekode AI-modeller, for eksempel Llama 3 fra Meta Platforms.

Etter å ha finjustert en åpen kildekode AI-modell, ser utviklere ofte på å implementere den i programvare. Det annonserte partnerskapet vil tillate disse modellene å kjøre på Inferentia2-brikken, utviklet av AWS.

«For oss er effektivitet grunnleggende. Vi ønsker å sikre at så mange som mulig kan kjøre modeller kostnadseffektivt,» sier Jeff Boudier, leder for produkt og vekst i Hugging Face.

AWS håper å tiltrekke flere AI-utviklere til sine cloud computing-tjenester. Mens Nvidia dominerer modelltreningsmarkedet, argumenterer AWS for at brikkene kan kjøre disse trente modellene (en prosess som kalles inferens) til en lavere kostnad i det lange løp.

«Du trener disse modellene kanskje en gang i måneden. Men slutninger kan gjøres titusenvis av ganger i timen. Det er her Inferentia2 skiller seg ut» forklarer Matt Wood, ansvarlig for kunstig intelligens-produkter hos AWS.

Les også: