Les cybercriminels ont découvert une nouvelle surface d'attaque : manipuler les modèles de langage en exploitant leur « personnalité » programmée. Au lieu de chercher des failles techniques classiques, ils ciblent les biais comportementaux et les patterns de réponse des IA pour les contourner ou les faire dévier de leurs garde-fous.
Les chercheurs en sécurité observent des attaques sophistiquées où les hackers utilisent des prompts psychologiques, des jeux de rôle ou des scénarios contextuels pour « jouer » sur la personnalité du chatbot. L'objectif : faire générer du contenu malveillant, contourner les filtres de sécurité ou extraire des données d'entraînement.
C'est moins une faille de code qu'une faille de conception..
Cette tendance révèle une faiblesse structurelle : les modèles sont entraînés à être utiles et conversationnels, ce qui crée des points d'entrée que les protections classiques ne couvrent pas. C'est moins une faille de code qu'une faille de conception.
Les éditeurs de chatbots doivent revoir leur approche : renforcer les garde-fous contre la manipulation comportementale, tester les modèles contre des attaques psychologiques, et accepter que la personnalité peut devenir une arme.