Technologie TurboQuant : le coup de génie qui divise les besoins en RAM par 6

JeuxVideo - 27/03
L'énorme appétit de l'intelligence artificielle pour la mémoire vive pourrait bien être de l'histoire ancienne. Avec son nouvel algorithme TurboQuant, Google dégaine une astuce mathématique redoutable pour diviser par six les besoins en RAM, faisant au passage trembler les...

L'essor fulgurant de l'IA générative a un coût caché, et il se chiffre en gigaoctets. Pour fonctionner correctement, ces immenses modèles engloutissent une quantité astronomique de mémoire vive. Ils en ont d'abord besoin pour charger leur "cerveau", mais aussi pour conserver un espace de travail actif, indispensable pour ne pas perdre le fil de nos requêtes. Ce gouffre technique a fini par déclencher une véritable pénurie matérielle à l'échelle mondiale. Les étiquettes des barrettes de RAM ont flambé, multipliant les prix par quatre voire même cinq, et éclaboussant l'ensemble du ...
[Courte citation de 8% de l'article original]