Ingénierie rapide avec l'IA sans serveur

Cet article montre comment réaliser l'ingénierie des invites LLM pour une première application d'IA. Nous allons écrire quelques dizaines de lignes de TypeScript.

J'ai récemment développé un outil d'aide aux mots croisés basé sur l'IA et partagé mon expérience via un article de blog. Suite à cela, j'ai reçu de nombreuses demandes, notamment concernant la construction du prompt de cette application, qui m'aide à résoudre les mots croisés quotidiens sans fournir directement les réponses. J'ai collaboré avec mon collègue Sohan sur une présentation vidéo pour répondre à ces requêtes. Dans cette vidéo, nous avons amélioré le solveur de mots croisés de base pour en faire un outil plus créatif et avancé.

Mais dans cette vidéo, j'ai parcouru rapidement l'ingénierie. Et c’est un sujet brûlant (et parfois mal compris) en ce moment. Ainsi, dans cet article, je vais illustrer mon approche de Prompt Engineering avec quelques exemples.

Prompt Engineering (et LLaMa2 de Meta)

Le processus de structuration d'un texte pouvant être interprété et compris par un modèle d'IA génératif est appelé Prompt Engineering. Cela peut s'appliquer aux modèles de texte uniquement tels que Llama2 et aux modèles de génération d'images tels que Stable Diffusion. Souvent, la clé pour générer un morceau de texte approprié ou une image précise dépend de la façon dont l’invite est conçue.

Les invites peuvent aller de simples à très complexes, en fonction de ce que vous souhaitez que le modèle d'IA génère. Par exemple:

« Raconte-moi une blague sur les chats » est une invite simpliste, mais pour les besoins de notre outil de résolution de mots croisés, j'ai dû préciser quelques détails, tels que :

• Je ne voulais pas que le modèle d’IA me donne directement la réponse, car cela irait à l’encontre du but de l’application. Au lieu de cela, il devait me donner quelques suggestions de réponses potentielles
• De plus, je voulais que les réponses comportent moins de 20 caractères, car votre grille de mots croisés typique est de 20x20.

Voici donc ce que j'ai trouvé :

Attends une minute, c'est quoi<>jeton là-bas ? Et le[...
[Courte citation de 8% de l'article original]