Amazon og Hugging Face går sammen om at køre AI-modeller på tilpassede chips

Amazon Web Services (AWS), cloud computing-afdelingen af ​​Amazon.com, annoncerede onsdag (24) et partnerskab med opstarten inteligência kunstig (AI) Knusende ansigt. Målet er at gøre det nemmere at køre tusindvis af AI-modeller på virksomhedens brugerdefinerede chips. Amazon.

Med en værdi af 4,5 milliarder dollars er Hugging Face blevet et afgørende knudepunkt for AI-forskere og -udviklere til at dele chatbots og anden AI-software. Opstarten har støtte fra giganter som Amazon selv, Google (Alfabet) og Nvidia. Det fungerer som det vigtigste knudepunkt for at opnå og tune open source AI-modeller, såsom Llama 3 fra Meta Platforms.

Efter at have finjusteret en open source AI-model, søger udviklere ofte at implementere den i software. Det annoncerede partnerskab vil gøre det muligt for disse modeller at køre på Inferentia2-chippen, udviklet af AWS.

"For os er effektivitet grundlæggende. Vi vil sikre, at så mange mennesker som muligt kan køre modeller omkostningseffektivt,” siger Jeff Boudier, produkt- og vækstchef hos Hugging Face.

AWS håber at tiltrække flere AI-udviklere til deres cloud computing-tjenester. Mens Nvidia dominerer modeltræningsmarkedet, argumenterer AWS for, at dets chips kan køre disse trænede modeller (en proces kaldet inferens) til en lavere pris i det lange løb.

“Man træner de her modeller måske en gang om måneden. Men slutninger kan drages titusindvis af gange i timen. Det er her, Inferentia2 skiller sig ud," forklarer Matt Wood, ansvarlig for kunstig intelligens-produkter hos AWS.

Læs også: