ChatGPT muscle sa mémoire et son mode anti-injection

Loïc Duval - InformatiqueNews - 08/06
ChatGPT renforce sa mémoire longue et son Lockdown Mode pour limiter les risques d’injection de prompt et d’exfiltration de données

Plus ChatGPT devient utile, plus il devient attaquable : OpenAI muscle donc sa mémoire tout en proposant un mode verrouillé, destiné à limiter les dégâts quand une page web ou un fichier tente de manipuler l’assistant.

OpenAI poursuit la transformation de ChatGPT en assistant personnel et professionnel à mémoire longue. Mais plus l’IA se souvient, navigue, consulte des fichiers et agit via des connecteurs, plus la question devient sensible : comment éviter qu’une instruction piégée ne lui fasse sortir des données confidentielles par la fenêtre ?

Bonne question que les ingénieurs d’OpenAI se sont évidemment posées. S’il n’existe pas encore de réponse parfaite, ils concrétisent des premiers éléments par une double approche : ...
[Courte citation de 8% de l'article original]