L'utilisation d'excellents modèles Claude d'Anthropic dans les flux de travail automatisés peut être délicat. Bien qu'ils excellent à l'interaction conversationnelle, obtenir une sortie formatée de manière cohérente qui peut être utilisée par programme nécessite un peu de travail. Contrairement aux modèles d'Openai, Claude n'a pas la possibilité de demander des données structurées, mais elle est possible avec une simple astuce.
Dans ce tutoriel, nous allons construire un composant réutilisable qui appelle Claude Haiku et renvoie des données structurées après un schéma. Nous utiliserons ensuite ce composant pour créer un flux de travail pour vérifier les commentaires des utilisateurs pour un contenu inapproprié.
Ce tutoriel suppose que vous connaissez Node.js et TypeScript.
Le biais de modèles de langues importants (LLMS) vers la réponse dans le texte lisible par l'homme et a tendance à être verbeux, donnant souvent un contexte supplémentaire même lorsqu'on leur a demandé une sortie spécifique. C'est idéal pour les chats occasionnels, mais devient un problème lorsque nous essayons d'utiliser des réponses LLM dans les flux de travail où la sortie alimente les tâches suivantes et doit être analysée par programme.
Par exemple, nous pourrions utiliser un LLM pour trier les messages du support client par catégorie et urgence. Pour étiqueter correctement les messages, nous aurions besoin du LLM pour retourner le titre de catégorie et le score d'urgence sur une échelle prédéfinie. Cela pourrait être réalisé par des invites personnalisées demandant une réponse structurée, mais rien ne garantit que le modèle suivra exactement les instructions de la sortie.
Heureusement, il y a une astuce simple que nous pouvons utiliser pour obtenir une sortie structurée cohérente des modèles Claude d'Anthropic: Créez une spécification d'outil pour Claude avec un schéma d'entrée défini et forcez le modèle à utiliser cet outil. Cela garantira que la réponse suit le format spécifié. Nous pouvons générer ce schéma d'entrée à l'aide de ZOD, une bibliothèque d...
[Courte citation de 8% de l'article original]