Quand mon IA se bloque : à quoi ressemble réellement la gouvernance constitutionnelle dans la pratique

DEV - 28/02
Ce matin, CORE – mon système de développement d'IA autonome – a bloqué son propre flux de travail d'auto-réparation. Non...

Ce matin, CORE – mon système de développement d'IA autonome – a bloqué son propre flux de travail d'auto-réparation.

Aucun humain ne l'a attrapé. Aucune alerte déclenchée. La Constitution l’a fait.

Voici ce qui s’est passé, pourquoi c’est important et ce que cela nous apprend sur la création d’agents d’IA réellement sûrs en production.

L'incident

CORE gère unsynchronisation de développementworkflow qui corrige automatiquement les violations constitutionnelles dans sa propre base de code : identifiants manquants, problèmes de formatage, docstrings. C'est une méthode d'auto-guérison : le système détecte les problèmes et les résout sans intervention humaine.

Ce matin, il a échoué avec cette erreur :

ERREUR : file.tag_metadata a échoué pour src/body/governance/intent_guard.py : impossible de décompresser l'objet ConstitutionalValidationResult non itérable
Entrer en mode plein écran Quitter le mode plein écran

Le système d’auto-guérison essayait de marquer ses propres dossiers de gouvernance – et la garde constitutionnelle l’a bloqué.

Pourquoi? Deux versions du mêmeIntentGuardLe composant s’était séparé. L'un a rendu un(bool, liste)tuple. L'autre a rendu unRésultat de la validation constitutionnelleobjet. LeGestionnaire de fichiersappelait l'ancienne API. La constitution a imposé la nouvelle.

L’IA a été littéralement empêchée de se réparer elle-même parce que sa propre couche de gouvernance avait évolué.

Pourquoi c'est une bonne chose

L’instinct de la plupart des gens est le suivant : c’est un bug. R...
[Courte citation de 8% de l'article original]