Arrêtez de payer pour le bruit : coupez les jetons LLM des deux extrémités du tuyau

DEV - 27/05
La taxe sur les jetons que vous payez Chaque fois qu'un agent de codage alimenté par LLM exécute un test de fret ou git...

La taxe symbolique que vous payez

Chaque fois qu'un agent de codage alimenté par LLM s'exécuteessai de cargaisonoustatut git, il avale des quantités de production. La majeure partie est constituée de bruit : barres de progression, échappements ANSI, lignes vides. Vous payez pour chaque jeton. D’un autre côté, les réponses verbeuses des modèles brûlent encore plus. Le résultat est une boucle lente et coûteuse qui évolue mal.

Deux outils open source attaquent le problème depuis les extrémités opposées du tuyau. RTK supprime le bruit d'entrée avant qu'il n'atteigne le modèle. L'homme des cavernes force le m...
[Courte citation de 8% de l'article original]