Un nouveau benchmark d'IA teste la vitesse de réponse aux requêtes des utilisateurs

SAN FRANCISCO, 27 mars (Reuters) - Le groupe d'analyse comparative de l'intelligence artificielle MLCommons a publié mercredi une nouvelle série de tests et de résultats évaluant la vitesse à laquelle le matériel haut de gamme peut exécuter des applications d'IA et répondre aux utilisateurs.

Les deux nouveaux benchmarks ajoutés par MLCommons mesurent la vitesse à laquelle les puces et les systèmes d'IA peuvent générer des réponses à partir de puissants modèles d'IA remplis de données. Les résultats démontrent grossièrement la rapidité avec laquelle une application d'IA telle que ChatGPT peut fournir une réponse à une requête d'utilisateur.

L'un des nouveaux tests de référence a ajouté la capacité de mesurer la rapidité d'un scénario de questions-réponses pour les grands modèles de langage. Appelé Llama 2, il comprend 70 milliards de paramètres et a été ...
[Courte citation de 8% de l'article original]