AmazonとHugging Faceが提携し、カスタムチップ上でAIモデルを実行

Amazon.comのクラウドコンピューティング部門であるアマゾン ウェブ サービス（AWS）は水曜日（24日）、新興企業との提携を発表した。 inteligência人工 （IA） ハグ顔。目標は、同社のカスタム チップ上で数千の AI モデルを簡単に実行できるようにすることです。 Amazon.

評価額 4,5 億ドルの Hugging Face は、AI 研究者や開発者がチャットボットやその他の AI ソフトウェアを共有するための重要なハブとなっています。このスタートアップはAmazon自体などの巨大企業の支援を受けており、 Google （アルファベット）とエヌビディア。これは、Meta Platforms の Llama 3 などのオープンソース AI モデルを取得して調整するためのメイン ハブとして機能します。

開発者は、オープンソース AI モデルを微調整した後、それをソフトウェアに実装することを検討することがよくあります。発表された提携により、これらのモデルは AWS が開発した Inferentia2 チップ上で実行できるようになります。

「私たちにとって効率は基本です。私たちは、できるだけ多くの人がコスト効率よくモデルを実行できるようにしたいと考えています。」 ジェフ・ブーディエは言う、Hugging Face の製品および成長部門の責任者。

AWSは、より多くのAI開発者を自社のクラウドコンピューティングサービスに引きつけたいと考えている。 Nvidia がモデルトレーニング市場を独占している一方で、AWS は、同社のチップは長期的には低コストでこれらのトレーニング済みモデル (推論と呼ばれるプロセス) を実行できると主張しています。

「おそらく月に 2 回、これらのモデルをトレーニングします。しかし、推論は XNUMX 時間に何万回も行われます。ここが InferentiaXNUMX の優れた点です。」 マット・ウッド氏は説明する, AWS で人工知能製品を担当しています。

また、お読みください。