Qui note le niveleur ? Votre juge LLM est un modèle non validé en production

La pile d'évaluation de tout le monde a la même hypothèse porteuse que personne n'audite : que le modèle en tant que juge dit la vérité.

Vous avez effectué des vérifications déterministes pour les choses faciles : schéma valide, pas de données personnelles, latence inférieure au budget. Ensuite, vous avez abordé les questions subjectives : "cette réponse est-elle réellement utile", "l'agent a-t-il suivi l'intention de l'utilisateur", "ce résumé est-il fidèle à la source" - et vous avez fait appel à un juge LLM, car qu'allez-vous faire d'autre ? Maintenant, un modèle note votre modèle. Et voici la partie qui devrait vous empêcher de dormir la nuit : vous n'avez jamais Vous avez validé l'évaluateur. Vous expédiez ou bloquez des versions sur la base d'un score de 0 à 10 à partir d'une invite que vous avez écrite en vingt minutes, et vous n'avez aucune idée si ce score correspond à quelque chose avec quoi un humain serait d'accord.

J'ai vu des équipes faire confiance à un tableau de bord d'arbitre vert pendant des mois, puis j'ai découvert que l'arbitre distribuait des 8 aux réponses détestées par les utilisateurs. Le juge n’a pas été brisé de manière évidente. Il n'était tout simplement pas calibré, et les niveleuses non calibrées échouent silencieusement –...
[Courte citation de 8% de l'article original]