Comment Microsoft a supprimé les garde-fous de sécurité sur les modèles d'IA les plus populaires, en une seule commande - ZDNET

Guillaume Serries - ZDNet - 13/02
Le fondateur de l'équipe AI Red Team de Microsoft a déclaré à ZDNET que les découvertes issues de ces recherches étaient « stupéfiantes ».

Points clés à retenir sur la sécurité des IA

  • De nouvelles recherches montrent à quel point la formation à la sécurité de l'IA est fragile
  • Les modèles linguistiques et d'images peuvent facilement être désalignés par des prompts
  • Les modèles doivent être testés en matière de sécurité après leur déploiement

L'alignement des modèles fait référence à la capacité d'un système d'IA à adopter un comportement conforme aux inten...
[Courte citation de 8% de l'article original]