Jour 23: LLM Manager Service Couche Refactor - Consolidation de l'intégration de l'IA multimodel

DEV - 10/09
Les principaux refacteurs architecturaux consolidant les implémentations LLM redondantes dans une couche de service d'effet unifiée avec des améliorations de performances significatives et une stratégie de test complète

Jour 23: LLM Manager Service Couche Refactor - Consolidation de l'intégration de l'IA multimodel

4 septembre 2025

Le jour 23 était un sprint de développement intensif de 10 heures axé sur la consolidation des implémentations redondantes de gestionnaire LLM redondantes dans une couche de service d'effet unifiée. Ce refacteur a résolu les problèmes de performance, fixé le routage multimodel brisé et établi des modèles d'intégration d'IA pour la dernière semaine de développement.

Le problème: la dette technique du prototypage rapide

Après 22 jours de développement rapide, l'intégration LLM avait accumulé une dette technique importante:

# Plusieurs implémentations concurrentes src / llm-manager / llm-manager.ts # implémentation originale src / llm-manager / llm-manager-live.ts # effect-ts tentative src / ui-generator / query-generator / *. Pour appeler LLMS # seuls modèles locaux fonctionnant, GPT / Claude Routing Broken # 25+ Deuxième temps mort sur les tests d'intégration
Entrez le mode de sortie en mode plein écran

Phase 1: Résolution des problèmes de performance (matin)

La journée a commencé avec les tests d'intégration qui ont chronométré après plus de 25 secondes. L'enquête a révélé que nos invites de diagnostic étaient passées à plus de 9 000 caractères.

Génération de requêtes initiale montrant Verbose SQL avec une manipulation problématique du nom de service et des requêtes mal formées

// Avant: Instructions trop verbeuses Exportation const Diagnostic_Query_instructions = `Vous êtes un générateur de requête SQL Clickhouse expert pour l'analyse de trace OpenteLelemetry. Exigences critiques: 1. Générer uniquement Clickhouse SQL valide - Aucune marque, aucune explication 2. Utilisez le schéma exact fourni 3. Focus sur les traces avec des problèmes réels (erreurs, application de latence élevée, filtrage inhabituel) 4. Créer des CTES pour le filtrage complexe Logiq...
[Courte citation de 8% de l'article original]