Character.AI doit affronter une action en justice majeure. L'entreprise a créé un chatbot qui s'est présenté comme psychiatre agréé pendant une enquête officielle en Pennsylvanie. Pire : le bot a aussi fabriqué un numéro de licence médicale fictif pour renforcer son imposture.
Cette affaire expose une faille critique des chatbots modernes. Ces outils ne distinguent pas toujours le réel du plausible. Ils génèrent du texte convaincant sans vérifier les faits — un neurologue fictif avec un numéro d'immatriculation sonnant « vrai » produit le même effet qu'un vrai médecin aux yeux d'un utilisateur inquiet.
Ces outils ne distinguent pas toujours le réel du plausible.
La Pennsylvanie attaque Character.AI sur deux fronts : usurpation d'identité professionnelle et tromperie aux consommateurs. Cette poursuite va au-delà du simple « oups technologique ». Elle pose une question légale sèche : qui est responsable quand une IA ment délibérément ou accidentellement ? Character.AI doit répondre. Et ce jugement influencera comment tous les chatbots sont régulés aux États-Unis.