Créez une application Streamlit avec LangChain et Amazon Bedrock

Utilisez ElastiCache Serverless Redis pour l'historique des discussions, déployez sur EKS et gérez les autorisations avec EKS Pod Identity

C'est une chose de créer de puissants modèles d'apprentissage automatique et une autre de pouvoir les rendre utiles. Une grande partie consiste à être capable de créer des applications pour exposer ses fonctionnalités aux utilisateurs finaux. Les exemples populaires incluent ChatGPT, Midjourney, etc.

Streamlit est une bibliothèque Python open source qui facilite la création d'applications Web pour l'apprentissage automatique et la science des données. Il dispose d'un ensemble d'API riches pour les composants visuels, y compris plusieurs éléments de chat, ce qui rend très pratique la création d'agents conversationnels ou de chatbots, en particulier lorsqu'ils sont combinés avec des LLM (Large Language Models).

Et c'est également l'exemple de cet article de blog : un chatbot basé sur Streamlit, déployé sur un cluster Kubernetes sur Amazon EKS. Mais ce n'est pas tout!

Nous utiliserons Streamlit avec LangChain, qui est un framework pour développer des applications alimentées par des modèles de langage. L'avantage de LangChain est qu'il prend en charge de nombreuses plates-formes et LLM, notamment Amazon Bedrock (qui sera utilisé pour notre application).

Un élément clé des applications de chat est la possibilité de faire référence à des conversations historiques - au moins dans un certain laps de temps (fenêtre). Dans LangChain, cela s’appelle Mémoire. Tout comme les LLM,...
[Courte citation de 8% de l'article original]