OpenAI et Broadcom présentent Jalapeño, leur nouvelle puce IA dédiée à l'inférence des LLM

En partenariat avec Broadcom, OpenAI dévoile Jalapeño, sa première puce d’IA dédiée à l’inférence des grands modèles de langage. Développé en seulement neuf mois, ce processeur promet une efficacité énergétique supérieure aux accélérateurs actuels

OpenAI ne veut plus seulement concevoir les modèles d’IA les plus avancés du marché. L’entreprise entend désormais maîtriser le matériel qui les fait fonctionner. OpenAI a donc présenté, aux côtés de Broadcom, Jalapeño, son tout premier processeur d’intelligence artificielle dédié à l’inférence des grands modèles de langage (LLM). Les premiers tests annoncent des performances par watt supérieures aux solutions actuelles. Tandis que la puce a été développée en un temps record de neuf mois.

Pourquoi OpenAI et Broadcom lancent la puce Jalapeño ?

Les accélérateurs généralistes sont plutôt adaptés aux charges de travail de l’IA. Mais Jalapeño a été conçu dès l’origine pour ré...
[Courte citation de 8% de l'article original]