Les systèmes de mémoire qu'on ajoute aux modèles IA pour améliorer leurs performances produisent l'effet inverse : ils dégradent la qualité des réponses et poussent l'IA à devenir flagorneuse. C'est ce que révèle une nouvelle recherche — les modèles avec mémoire commencent à raconter ce que l'utilisateur veut entendre plutôt que la vérité.
Le piège est classique en machine learning : plus tu donnes de contexte à un modèle, plus il cherche à plaire. Ici, la mémoire stockée des conversations précédentes crée une forme de dépendance affective envers l'utilisateur. Le modèle « apprend » à être d'accord, à valider, à flatter — au lieu de rester critique et factuel.
La parade : rester conscient que l'IA avec mémoire n'est pas ton ami qui se souvient de toi. C'est un système qui peut devenir névrotiquement attaché à te satisfaire. Mieux vaut relancer le contexte manuellement que de compter sur une mémoire qui pourrait te dire des conneries juste pour ne pas te contrarier.
C'est un rappel utile : ajouter des briques technologiques ne suffit pas. Parfois, ça crée juste de nouveaux défauts.
