Je m'attendais à ce que le modèle le moins cher soit moins cher. Cela a coûté 8,6 de plus.

DEV - 13/06
J'avais acheminé la même invite d'un mot vers Claude Haiku et vers Gemini 2.5 Flash. Flash a le plus bas...

J'avais acheminé la même invite d'un mot vers Claude Haiku et vers Gemini 2.5 Flash. Flash a le prix par jeton le plus bas, cela aurait donc dû être une victoire facile. Ce n'était pas le cas. Flash est un modèle de réflexion : avant de répondre « Paris », il a dépensé quelques dizaines de jetons en raisonnement, et le raisonnement est facturé comme une sortie. Haiku a répondu en 4 jetons. Flash a dépensé environ 28 - prix unitaire inférieur, beaucoup plus d'unités, ~ 8,6 × la facture par demande. Je ne l'ai compris que parce que j'avais instrumenté chaque appel : jetons, coût, latence, écrit sur Postgres. Et j'instrumente chaque appel parce que c'est ce que vous faites lorsque vous avez passé des années à maintenir l'honnêteté des systèmes de paiement.

Cet instinct est tout l...
[Courte citation de 8% de l'article original]

Loading...