Amazon і Hugging Face об’єднуються для запуску моделей ШІ на власних чіпах

Amazon Web Services (AWS), підрозділ хмарних обчислень Amazon.com, оголосив у середу (24) про партнерство зі стартапом inteligência штучний (AI) Обіймати обличчя. Мета полягає в тому, щоб полегшити роботу тисяч моделей ШІ на власних чіпах компанії. Amazon.

Оцінений у 4,5 мільярда доларів Hugging Face став важливим центром для дослідників і розробників штучного інтелекту для обміну чат-ботами та іншим програмним забезпеченням штучного інтелекту. Стартап має підтримку таких гігантів, як сама Amazon, Google (Алфавіт) і Nvidia. Він служить основним центром для отримання та налаштування моделей ШІ з відкритим кодом, таких як Llama 3 від Meta Platforms.

Після тонкого налаштування моделі штучного інтелекту з відкритим кодом розробники часто прагнуть реалізувати її в програмному забезпеченні. Оголошене партнерство дозволить цим моделям працювати на чіпі Inferentia2, розробленому AWS.

«Для нас ефективність є фундаментальною. Ми хочемо переконатися, що якомога більше людей можуть використовувати моделі економічно ефективно», каже Джефф Будіє, керівник відділу продуктів і розвитку в Hugging Face.

AWS сподівається залучити більше розробників ШІ до своїх сервісів хмарних обчислень. У той час як Nvidia домінує на ринку навчання моделей, AWS стверджує, що її чіпи можуть запускати ці навчені моделі (цей процес називається інференцією) за нижчої вартості в довгостроковій перспективі.

«Ви тренуєте цих моделей, можливо, раз на місяць. Але висновки можна робити десятки тисяч разів на годину. Ось де Inferentia2 виділяється», пояснює Метт Вуд, відповідальний за продукти штучного інтелекту в AWS.

Читайте також: