Débit de 12 000 jetons par seconde : le cluster Taalas exécutant DeepSeek R1 établit un record de vitesse

MSN - 21/02
IT House a rapporté le 21 février que le média technologique Wccftech avait publié hier (20 février) un article de blog rapportant que, afin de résoudre les problèmes de retard et de coût des grands modèles, la startup de puces IA Taalas avait lancé une technologie de « câblage » pour solidifier directement les modèles d'IA dans des tranches de silicium. Alors que la concurrence pour la puissance de calcul de l’IA devient de plus en plus féroce, la latence est devenue un goulot d’étranglement majeur limitant les applications des agents. Contrairement aux Cérébras...

IT House a rapporté le 21 février que le média technologique Wccftech avait publié hier (20 février) un article de blog rapportant que, afin de résoudre les problèmes de retard et de coût des grands modèles, la startup de puces IA Taalas avait lancé une technologie de « câblage » pour solidifier directement les modèles d'IA dans des tranches de silicium.

Alors que la concurrence pour la puissance de calcul de l’IA devient de plus en plus féroce, la latence est devenue un goulot d’étranglement majeur limitant les applications des agents. Contrairement à Cerebras ou Groq qui tentent d'accélérer les choses en intégrant du SRAM, Taalas, star...
[Courte citation de 8% de l'article original]

Loading...