En 2020, j'ai écrit que les tableaux de bord vous indiquent ce qui se passe, mais pas pourquoi. Que la ruée vers une approche « axée sur les données » faisait dérailler plus de décisions qu’elle n’en informait. Plus de cinq ans plus tard, nous construisons des agents IA et ils se heurtent au même mur. Nous savons que des décisions passées ont été prises, mais nous ne savons pas pourquoi : les graphiques contextuels sont là pour changer cela !
J'ai enfin eu le temps de rattraper mon retard en lisant pendant les vacances (ce qui m'a semblé TELLEMENT LUXUEUX !) - deux articles ont vraiment attiré mon attention : l'article de Jaya Gupta et Ashu Garg sur les graphiques contextuels de Foundation Capital, et l'analyse technique approfondie d'Animesh Koratana sur la façon d'en construire un. Ils ont donné un nom à quelque chose que j'entourais depuis un moment et maintenant que je suis de retour à mon bureau, la première chose que je voulais faire était d'écrire un guide pratique pour les développeurs qui souhaitent construire cela avec AWS.
Leurs articles valent la peine d'être lus dans leur intégralité, et dans cet article, je voulais aborder le côté pratique : comment réellement construire un graphique contextuel avec les outils dont nous disposons aujourd'hui ?
Travailler dans le conseil en IA m'a appris que la plupart du temps, lorsque quelqu'un dit « nous avons besoin de l'IA », cela signifie en réalité « nous prenons toujours le même type de décisions, et nous voulons arrêter de nous en servir ». Les gens pensaient souvent qu’ils voulaient une baguette magique ou quelque chose comme ça, mais ils voulaient juste une certaine clarté dans les règles et une bonne façon de gérer les exceptions. Fondamentalement, ils veulent un arbre de décision avec de la mémoire, mais pas n’importe quelle mémoire. Ils doivent se rappeler pourquoi les décisions ont été prises, et pas seulement pourquoi elles ont été prises. Et ce raisonnement doit être accessible au bon moment, lorsqu’une décision similaire se présente à nouveau.
C’est là que la promesse « basée sur les données » échoue. Avoir des données ne suffit pas. Vous avez besoin des bonnes données, accessibles au bon moment. Il en va de même pour la mémoire. Et il s’avère que le type de mémoire qui compte le plus n’a jamais été capturé sous forme de données. Les systèmes d'entreprise sont épouvantables et regorgent de vieux outils, de flux de travail étranges, de SQL Server exécuté sur un serveur caché sous un escalier, de feuilles de calcul aléatoires, de fils de discussion Slack de 2021. Bien sûr, certains d'entre eux sont purement inutiles, mais une grande partie de cet encombrement est l'endroit où le travail est réellement effectué. Il existe des trésors cachés où les gens stockent le contexte, le jugement et les solutions de contournement.
Mais les joyaux cachés sont tous CACHÉS ! Elles n’ont pas été capturées ou stockées sous forme de données, de sorte que le raisonnement reliant les données à l’action a été abandonné. Les agents d'IA que nous construisons ne connaissent pas les approbations chuchotées ou les pièces du puzzle « nous avons déjà essayé cela et ça a explosé ». Aucun de ces raisonnements utiles (qui constituent la partie la plus importante de l’intégration d’un employé) n’existe de manière à pouvoir être interrogé.
Un graphique contextuel capture les traces de décision. Pas seulement QU'EST-CE qui s'est passé, mais POURQUOI c'était la bonne décision, qui l'a approuvé, quels précédents l'ont éclairé et quelles alternatives ont été envisagées.
Pensez-y comme à un git. Git capture ce qui a changé (la dif...
[Courte citation de 8% de l'article original]