Une nouvelle étude d'arXiv expose un dilemme critique : les agents IA basés sur des modèles de fondation doivent mémoriser les préférences des utilisateurs pour personnaliser l'expérience, mais cette même mémoire crée une surface d'attaque pour l'extraction de données. Les chercheurs formulent le problème comme une frontière privacy-utility, où chaque choix architectural (agressivité de la résumé, profondeur de récupération, mode de suppression) affecte à la fois l'utilité de personnalisation et le risque qu'un attaquant récupère des informations sensibles.
Le vrai nœud : il n'existe pas de configuration parfaite. Augmenter la mémoire améliore la pertinence des réponses mais expose davantage de données à l'extraction. Réduire la mémoire renforce la sécurité mais dégrade l'expérience. L'étude propose de mesurer cette tension via deux métriques — Personalization Recall (jusqu'à quel point l'agent se souvient) et Adversarial Extraction Rate (combien d'infos un attaquant peut voler) — en variant trois leviers : l'agressivité du résumé, la largeur de récupération, et le protocole de suppression.
Ce n'est pas un bug : c'est une contrainte de conception. À mesure que les agents IA deviennent des compagnons persistants — et non plus des outils stateless — la mémoire passe du rôle d'effet secondaire à celui de fonction explicite. Les équipes déploiement doivent désormais arbitrer consciemment entre connaissance de l'utilisateur et exposition au risque. Pas de parade magique : juste des choix à faire avec les yeux ouverts.
