Le stockage des vecteurs est l'un des piliers de l'IA moderne. Mais il représente un coût d'infrastructure très important.
Pour les entreprises, la gestion du "Key-Value Cache" (le pense-bête numérique de l'IA) devient donc un goulet d'étranglement, mentionne Google dans une nouvelle note de recherche.
L'article précise que les méthodes traditionnelles introduisent souvent un "overhead" (s...
[Courte citation de 8% de l'article original]