Tianfeng Securities: La révolution du stockage de l'IA est arrivée, "Storage au lieu de calcul" a ouvert une nouvelle ère de stockage

Sina - 27/09
Tianfeng Securities: La révolution du stockage de l'IA est arrivée, "Storage au lieu de calcul" a ouvert une nouvelle ère de stockage

Lors de la négociation des actions, regardez les rapports de recherche des analystes de Jin Qilin, qui font autorité, professionnels, opportuns et complets, et vous aident à exploiter des opportunités de thème potentielles!

Tianfeng Research

Afin de percer le goulot d'étranglement de la puissance de calcul et les contraintes du «mur de stockage», «l'utilisation du stockage au lieu de calculer» est née comme un paradigme technique subversif. Cette technologie réalise l'expansion stratégique de la couche de stockage de la mémoire à la SSD en migrant les données vectorielles (telles que KVCACH) dans l'inférence IA de la mémoire vidéo DRAM et HBM coûteuse à des supports SSD à grande capacité et rentables, plutôt qu'à un simple remplacement. Sa valeur fondamentale réside dans la réduction considérablement de la latence du premier jeton, l'amélioration du débit d'inférence et l'optimisation considérable des coûts d'inférence de bout en bout, offrant un chemin réalisable pour la mise en œuvre à grande échelle de l'IA.

Le contexte de développement de "l'héritage au lieu du calcul": le raisonnement de l'IA devient le cœur de la valeur, le goulot d'étranglement HBM met en évidence les points de douleur de l'industrie et "l'héritage au lie...
[Courte citation de 8% de l'article original]

Loading...