亚马逊和 Hugging Face 联手在定制芯片上运行人工智能模型

亚马逊云计算部门亚马逊网络服务（AWS）周三（24日）宣布与这家初创公司建立合作伙伴关系 人工智能 （IA） 拥抱脸。目标是让数千个人工智能模型能够更轻松地在该公司的定制芯片上运行。 Amazon.

Hugging Face 价值 4,5 亿美元，已成为人工智能研究人员和开发人员共享聊天机器人和其他人工智能软件的重要中心。这家初创公司得到了亚马逊等巨头的支持， Google （字母表）和 Nvidia。它是获取和调整开源 AI 模型（例如 Meta Platforms 的 Llama 3）的主要中心。

在对开源人工智能模型进行微调后，开发人员通常会寻求在软件中实现它。此次宣布的合作伙伴关系将使这些模型能够在 AWS 开发的 Inferentia2 芯片上运行。

“对我们来说，效率是根本。我们希望确保尽可能多的人能够经济高效地运行模型。” 杰夫·布迪尔说Hugging Face 的产品和增长主管。

AWS希望吸引更多的人工智能开发者使用其云计算服务。虽然 Nvidia 在模型训练市场占据主导地位，但 AWS 认为，从长远来看，其芯片可以以较低的成本运行这些经过训练的模型（称为推理的过程）。

“你可能每月训练一次这些模型。但每小时可以进行数万次推理。这就是 Inferentia2 的突出之处。” 马特·伍德解释说，负责AWS的人工智能产品。

阅读：