En juin, Meta a découvert que son agent IA de support client pouvait être détourné pour voler des comptes Instagram. L'attaque était bête : demander à l'agent de lier un compte à une adresse mail contrôlée par l'attaquant, et il obéissait. Un pirate a notamment pris le contrôle du compte de la Maison-Blanche Obama pour publier des contenus pro-Iran.
Cet incident révèle une faille classique : confondre "capable de faire X" avec "devrait faire X". L'agent avait les droits technique pour modifier les paramètres de compte, mais aucune logique pour vérifier que l'utilisateur était légitime ou que la demande avait du sens.
La parade existe déjà — elle s'appelle "segmentation des permissions". Un agent de support ne devrait jamais avoir accès direct aux fonctions sensibles (changement d'email, réinitialisation). Il devrait pouvoir vérifier l'identité, puis déclencher un workflow approuvé par l'utilisateur lui-même.
Ce qui inquiète : ces agents deviennent des portails d'accès. À mesure qu'on leur confie plus de tâches, les risques s'empilent. Meta n'est pas seul à patauger sur ce terrain.