Amazon y Hugging Face se unen para ejecutar modelos de IA en chips personalizados

Amazon Web Services (AWS), la división de computación en la nube de Amazon.com, anunció el miércoles (24) una asociación con la startup inteligencia artificial (I A) Abrazando la cara. El objetivo es facilitar la ejecución de miles de modelos de IA en los chips personalizados de la empresa. Amazon.

Valorado en 4,5 millones de dólares, Hugging Face se ha convertido en un centro crucial para que los investigadores y desarrolladores de IA compartan chatbots y otro software de IA. La startup cuenta con el apoyo de gigantes como la propia Amazon, Google (Alfabeto) y Nvidia. Sirve como centro principal para obtener y ajustar modelos de IA de código abierto, como Llama 3 de Meta Platforms.

Después de ajustar un modelo de IA de código abierto, los desarrolladores suelen intentar implementarlo en software. La asociación anunciada permitirá que estos modelos se ejecuten en el chip Inferentia2, desarrollado por AWS.

“Para nosotros la eficiencia es fundamental. Queremos asegurarnos de que la mayor cantidad de personas posible puedan ejecutar modelos de manera rentable”. dice Jeff Boudier, jefe de producto y crecimiento de Hugging Face.

AWS espera atraer más desarrolladores de IA a sus servicios de computación en la nube. Si bien Nvidia domina el mercado de entrenamiento de modelos, AWS sostiene que sus chips pueden ejecutar estos modelos entrenados (un proceso llamado inferencia) a un costo menor en el largo plazo.

“Se entrena a estos modelos tal vez una vez al mes. Pero se pueden hacer inferencias decenas de miles de veces por hora. Aquí es donde destaca Inferentia2”. explica Matt Wood, responsable de productos de inteligencia artificial en AWS.

Lea también: