客製化人工智慧晶片
圖片來源: Curto 新聞/必應AI

亞馬遜和 Hugging Face 聯手在客製化晶片上運行人工智慧模型

亞馬遜雲端運算部門亞馬遜網路服務(AWS)週三(24日)宣布與這家新創公司建立合作夥伴關係 人工智能 (人工智能) 擁抱臉。目標是讓數千個人工智慧模型能夠更輕鬆地在該公司的客製化晶片上運行。 Amazon.

宣傳

Hugging Face 價值 4,5 億美元,已成為人工智慧研究人員和開發人員共享聊天機器人和其他人工智慧軟體的重要中心。這家新創公司得到了亞馬遜等巨頭的支持, Google (字母表)和 Nvidia。它是獲取和調整開源 AI 模型(例如 Meta Platforms 的 Llama 3)的主要中心。

在對開源人工智慧模型進行微調後,開發人員通常會尋求在軟體中實現它。此次宣布的合作夥伴關係將使這些模型能夠在 AWS 開發的 Inferentia2 晶片上運行。

「對我們來說,效率是根本。我們希望確保盡可能多的人能夠經濟高效地運行模型。 傑夫布迪爾說Hugging Face 的產品和成長主管。

宣傳

AWS希望吸引更多的人工智慧開發者使用其雲端運算服務。雖然 Nvidia 在模型訓練市場中佔據主導地位,但 AWS 認為,從長遠來看,其晶片可以以較低的成本運行這些經過訓練的模型(稱為推理的過程)。

「你可能每個月訓練一次這些模型。但每小時可以進行數萬次推理。這就是 Inferentia2 的突出之處。 馬特伍德解釋說,負責AWS的人工智慧產品。

閱讀:

向上滑動