Anthropic conteste fermement une décision gouvernementale de retirer son modèle IA le plus avancé du marché, suite à la découverte d'une vulnérabilité de sécurité. L'entreprise juge la mesure disproportionnée : une faille étroite ne justifie pas, selon elle, de rappeler une version déployée à des centaines de millions d'utilisateurs.
Ce bras de fer illustre une tension croissante entre les exigences de conformité réglementaire et la vision des éditeurs IA. Anthropic met en avant les avertissements de sécurité qu'elle a elle-même divulgués — un geste de transparence qui lui a coûté cher, puisque l'autorité de tutelle en a déduit qu'il fallait intervenir.
Le timing pose question : à quel seuil exact une vulnérabilité devient-elle cause de retrait ? Qui évalue le risque résiduel — l'entreprise ou le régulateur ? Ces questions ne sont toujours pas tranchées, et les décisions restent au cas par cas.
La leçon implicite : communiquer ses risques en toute transparence peut se retourner contre vous si le régulateur en juge la sévérité différemment. Paradoxe de l'auto-régulation.
