Amazon y la startup de inteligencia artificial Hugging Face se emparejan para usar chips de Amazon

El miércoles, Amazon y Hugging Face dijeron que se habían emparejado [File]
| Crédito de la foto: REUTERS

La unidad de nube de Amazon.com dijo el miércoles que se ha asociado con la startup de inteligencia artificial Hugging Face para facilitar la ejecución de miles de modelos de inteligencia artificial en los chips informáticos personalizados de Amazon.

Valorado en 4.500 millones de dólares, Hugging Face se ha convertido en un centro central para los investigadores de IA y desarrolladores para compartir chatbots y otro software de inteligencia artificial y cuenta con el respaldo de Amazon, Google de Alphabet y Nvidia, entre otros. Es el lugar principal al que acuden los desarrolladores para obtener y probar modelos de IA de código abierto como Llama 3 de Meta Platforms.

Pero una vez que los desarrolladores han modificado un modelo de IA de código abierto, normalmente quieren utilizar el modelo para impulsar una pieza de software. El miércoles, Amazon y Hugging Face dijeron que se habían asociado para que fuera posible hacerlo en un chip personalizado de Amazon Web Services (AWS) llamado Inferentia2.

“Una cosa que es muy importante para nosotros es la eficiencia: asegurarnos de que la mayor cantidad de personas posible puedan ejecutar modelos y que puedan ejecutarlos de la manera más rentable”, dijo Jeff Boudier, jefe de producto y crecimiento de Hugging Face.

(Para conocer las principales noticias tecnológicas del día, suscribir a nuestro boletín tecnológico Today’s Cache)

Por su parte, AWS espera atraer a más desarrolladores de IA para que utilicen sus servicios en la nube para ofrecer IA. Si bien Nvidia domina el mercado de modelos de entrenamiento, AWS sostiene que sus chips pueden operar esos modelos entrenados -un proceso llamado inferencia- a un costo menor con el tiempo.

“Se entrenan estos modelos tal vez una vez al mes. Pero es posible que se estén ejecutando inferencias contra ellos decenas de miles de veces por hora. Ahí es donde Inferentia2 realmente brilla”, dijo Matt Wood, quien supervisa los productos de inteligencia artificial en AWS.