Aperçu: "OWASP Top 10 pour les applications LLM 2025: un guide complet"

Avertissement: Ceci est un rapport généré avec mon outil: https://github.com/dteam-top/tsw-cli. Le voir comme une expérience et non une recherche formelle, 😄。

Masse d'esprit

Résumé

Ce document décrit les applications des 10 meilleures vulnérabilités du modèle de grande langue (LLM) en 2025. Le document fournit des descriptions de chaque vulnérabilité, des exemples courants, des stratégies de prévention, des scénarios d'attaque et des références à des cadres et taxonomies connexes.

Terminologie

• LLM (modèle de grande langue): un modèle d'apprentissage en profondeur conçu pour comprendre et générer du texte de type humain basé sur des modèles appris à partir de grandes quantités de données.
• Injection rapide: manipuler l'entrée d'un LLM pour modifier son comportement ou sa sortie de manière involontaire.
• RAG (Génération auprès de la récupération): une technique qui améliore les réponses LLM en récupérant des informations provenant de sources de connaissances externes.
• SBOM (Software Bill of Materials): Un inventaire complet de composants utilisés dans les logiciels, aidant à la gestion de la vulnérabilité.
• LORA (adaptation de faible rang): une technique de réglage fin qui adapte efficacement les LLM pré-formées à des tâches spécifiques.
• PEFT (affinage fin économe en paramètres): un ensemble de techniques pour les LLM de réglage fin avec un minimum de ressources de calcul.
• PII (informations personnellement identifiables): toutes les données qui pourraient potentiellement identifier une personne spécifique.
• XSS (script inter-sites): un type de vulnérabilité de sécurité Web qui permet aux attaquants d'injecter des scripts malveillants dans des sites Web visualisés par d'autres utilisateurs.
• CSRF (contrefaçon de demande inter-site): un type de vulnérabilité de sécurité Web qui permet aux attaquants d'inciter les utilisateurs à effectuer des actions qu'ils n'ont pas l'intention d'effectuer.
• SSRF (contrefaçon côté serveur): un type de vulnérabilité de sécurité Web qui permet à un attaquant de faire que l'application côté serveur fait des demandes HTTP à un domaine arbitraire du choix de l'attaquant.
• API (Interface de programmation d'applications): un ensemble de règles et de spécifications que les logiciels peuvent suivre pour communiquer entre eux.

Points principaux

Point 1: LLM01: 2025 Injection rapide

Des vulnérabilités d'injection rapides surviennent lorsque les entrées de l'utilisateur modifient involontairement ou malétiquement le comportement du LLM. Cela peut entraîner une génération de contenu nocive, un accès non autorisé ou une manipulation de décisions critiques.

Mise en œuvre:

• Injections invites directes: l'entrée de l'utilisateur modifie directement le comportement du modèle.
• Injections rapides indirectes: les sources externes contiennent des données qui, lorsqu'elles sont interprétées par le modèle, modifient son comportement.

Atténuation:

• Conservez le comporte...
  [Courte citation de 8% de l'article original]