Amazon und Hugging Face arbeiten zusammen, um KI-Modelle auf benutzerdefinierten Chips auszuführen

Amazon Web Services (AWS), die Cloud-Computing-Abteilung von Amazon.com, gab am Mittwoch (24) eine Partnerschaft mit dem Startup bekannt künstliche (NS) Gesicht umarmen. Ziel ist es, die Ausführung Tausender KI-Modelle auf den maßgeschneiderten Chips des Unternehmens zu vereinfachen. Amazon.

Mit einem Wert von 4,5 Milliarden US-Dollar hat sich Hugging Face zu einem wichtigen Knotenpunkt für KI-Forscher und -Entwickler für den Austausch von Chatbots und anderer KI-Software entwickelt. Das Startup wird von Giganten wie Amazon selbst unterstützt. Google (Alphabet) und Nvidia. Es dient als Hauptdrehscheibe für den Erhalt und die Optimierung von Open-Source-KI-Modellen wie Llama 3 von Meta Platforms.

Nach der Feinabstimmung eines Open-Source-KI-Modells versuchen Entwickler häufig, es in Software zu implementieren. Die angekündigte Partnerschaft ermöglicht den Betrieb dieser Modelle auf dem von AWS entwickelten Inferentia2-Chip.

„Für uns ist Effizienz von grundlegender Bedeutung. „Wir wollen sicherstellen, dass möglichst viele Menschen kostengünstig Modelle betreiben können“, sagt Jeff Boudier, Leiter Produkt und Wachstum bei Hugging Face.

AWS hofft, mehr KI-Entwickler für seine Cloud-Computing-Dienste zu gewinnen. Während Nvidia den Modelltrainingsmarkt dominiert, argumentiert AWS, dass seine Chips diese trainierten Modelle (ein Prozess namens Inferenz) langfristig zu geringeren Kosten ausführen können.

„Sie trainieren diese Modelle vielleicht einmal im Monat. Aber Schlussfolgerungen können Zehntausende Male pro Stunde gezogen werden. Hier sticht Inferentia2 hervor“, erklärt Matt Wood, verantwortlich für Produkte der künstlichen Intelligenz bei AWS.

Lesen Sie auch: