Résumé
En créant un cadre d'IA agentique spécialisé dans l'appel de fonction AI, nous avons beaucoup appris sur les appels de fonction. Cet article décrit tout ce que nous avons découvert à propos de l'appel des fonctions lors de notre développement de framework.
- Référentiel Github: https://github.com/wrtnlabs/agentica
- Page d'accueil: https://wrtnlabs.io/agentica
Histoire principale de cet article:
- En 2023, lorsque OpenAI a annoncé une fonction de fonction d'IA, de nombreuses personnes ont prédit qu'elle allait conquérir le monde. Cependant, Fonction Calling n'a pas pu tenir sur cette promesse et a été éclipsé par les approches du flux de travail de l'agent.
- Nous avons identifié la raison: un manque de compréhension du schéma JSON et du soutien au niveau du compilateur insuffisant. Les cadres d'agent devraient renforcer les principes fondamentaux de l'informatique plutôt que de se concentrer sur les techniques de fantaisie.
- OpenAPI, qui est beaucoup plus ancien et plus largement adopté que MCP, peut atteindre les mêmes objectifs lorsqu'un développeur de bibliothèque a une forte compréhension du schéma JSON et des compétences en compilateur.
- L'appel de fonction peut améliorer les performances tout en réduisant les coûts de jetons en utilisant notre stratégie d'orchestration, même avec de petits modèles comme
GPT-4O-MINI(8b).- Faisons une fonction à nouveau très bien avec l'agetica
En 2023, OpenAI a annoncé l'appel de la fonction AI.
À cette époque, de nombreux chercheurs d'IA ont prédit qu'il révolutionnerait l'industrie. Même dans mon propre réseau, de nombreux développeurs se précipitaient pour construire de nouvelles applications d'IA centrées sur l'appel de fonction.
Le marché des applications sera réorganisé autour des chatbots d'IA.
Les développeurs ne créeront ou collecteront que des fonctions d'API, et l'IA les appellera automatiquement. Il ne sera plus nécessaire de créer des applications frontend / clients complexes.
Faites tout avec le chat.
Mais qu'en est-il aujourd'hui? La fonction d'appel a-t-elle conquis le monde? Non - plutôt que des fonctions d'appel, le développement axé sur le flux de travail des agents est devenu dominant dans l'écosystème de développement de l'IA.lubrioleest peut-être le cadre le plus représentatif de cet écosystème de flux de travail.
Actuellement, de nombreux développeurs d'IA affirment que l'appel de la fonction d'IA est difficile à mettre en œuvre, consomme trop de jetons et provoque des hallucinations fréquentes. Ils soutiennent que pour que les fonctions appellent une adoption généralisée, les modèles d'IA doivent devenir beaucoup moins chers, plus grands et plus intelligents.
Cependant, nous avons une perspective différente. Les LLM d'aujourd'hui sont déjà suffisamment capables, encore des modèles de taille 8B encore plus petits (qui peuvent fonctionner sur des ordinateurs portables personnels). La raison pour laquelle l'appel de la fonction n'a pas réussi à adopter une large adoption est que les développeurs de framework d'IA n'ont pas pu créer des schémas de fonction avec précision et efficacement.
Ils ne se sont pas suffisamment concentrés sur les fondamentaux comme l'informatique, à la place excessivement sur des techniques flashy.
L'appel de fonction permet aux modèles AI d'interagir avec les systèmes externes en identifiant quand une fonction doit être appelée et générer le JSON approprié pour appeler cette fonction.
Au lieu de générer du texte de forme libre, le modèle reconnaît quand invoquer des fonctions spécifiques en fonction des demandes d'utilisateur et fournit des données structurées pour ces appels de fonction.
Le protocole de contexte du modèle est une norme ouverte conçue pour faciliter les connexions à double sens sécurisées entre les outils d'IA et les sources de données externes. Il vise à rationaliser l'intégration des assistants d'IA avec divers outils et données, permettant des interactions plus dynamiques.
MCP standardise comment les applications d'IA, telles que les chatbots, interagissent avec les systèmes externes, leur permettant d'accéder et d'utiliser les données plus efficacement.
Il permet des intégrations flexibles et évolutives, ce qui permet aux développeurs de créer plus facilement des applications pouvant s'adapter à différentes sources de données et outils.
Un flux de travail d'agent est une approche structurée de l'opération d'agent d'IA où plusieurs agents d'IA spécialisés travaillent en collaboration pour accomplir des tâches complexes. Chaque agent du flux de travail a des responsabilités et une expertise spécifiques, créant un pipelin...
[Courte citation de 8% de l'article original]