Amazon i Hugging Face s'uneixen per executar models d'IA amb xips personalitzats

Amazon Web Services (AWS), la divisió de cloud computing d'Amazon.com, va anunciar dimecres (24) una associació amb la startup intel·ligència artificial (AI) Cara abraçada. L'objectiu és facilitar l'execució de milers de models d'IA als xips personalitzats de l'empresa. Amazon.

Valorat en 4,5 milions de dòlars, Hugging Face s'ha convertit en un centre crucial per als investigadors i desenvolupadors d'IA per compartir chatbots i altres programaris d'IA. La startup compta amb el suport de gegants com Amazon mateix, Google (Alfabet) i Nvidia. Serveix com a centre principal per obtenir i ajustar models d'IA de codi obert, com ara Llama 3 de Meta Platforms.

Després d'ajustar un model d'IA de codi obert, els desenvolupadors sovint busquen implementar-lo al programari. L'associació anunciada permetrà que aquests models funcionin al xip Inferentia2, desenvolupat per AWS.

“Per a nosaltres, l'eficiència és fonamental. Volem garantir que tantes persones com sigui possible puguin executar models de manera rendible". diu Jeff Boudier, responsable de producte i creixement de Hugging Face.

AWS espera atraure més desenvolupadors d'IA als seus serveis de computació en núvol. Tot i que Nvidia domina el mercat de formació de models, AWS argumenta que els seus xips poden executar aquests models entrenats (un procés anomenat inferència) a un cost més baix a llarg termini.

"Entrenes aquests models potser un cop al mes. Però la inferència es pot fer desenes de milers de vegades per hora. Aquí és on destaca Inferentia2", explica Matt Wood, responsable dels productes d'intel·ligència artificial d'AWS.

Llegiu també: