OpenAI démontre qu'un entraînement par renforcement sur des traits comportementaux désirables — honnêteté, corrigibilité — améliore significativement la sécurité des modèles IA et leur résistance à la manipulation. L'approche s'appuie sur des doses contrôlées de ces traits, plutôt que sur une surcharge d'apprentissage.
Les résultats sont mesurables : le modèle a progressé sur 44 benchmarks sur 53, et l'entraînement sur données sanitaires a même boosté la détection de tromperie. C'est une stratégie différente de celle d'Anthropic, qui repose sur des constitutions d'IA — un ensemble de principes écrits censés guider le comportement.
Le pari d'OpenAI : montrer qu'on n'a pas besoin de recettes complexes ou philosophiques pour rendre une IA plus prévisible et moins vulnérable aux contournements. Des traits ciblés, bien intégrés lors de l'entraînement, suffisent.
Cette recherche alimente un débat technique majeur : comment contrôler le comportement émergent d'un modèle sans le paralyser ou le rendre rigide. Les deux approches — OpenAI et Anthropic — visent le même objectif : une IA que tu peux utiliser sans penser qu'elle va bifurquer.
