Les autorités anglaises et galloises doivent cesser d'utiliser l'IA pour rédiger les déclarations policières destinées aux tribunaux. Cette directive intervient après que les risques d'hallucinations et d'inexactitudes factuelles ont été identifiés comme incompatibles avec la rigueur judiciaire.
Le problème : les modèles de langage générent du contenu plausible mais parfois faux, ce qui peut biaiser les procédures légales. Une déclaration policière erronée produite par l'IA peut contaminer tout le dossier.
La parade existe : relecture humaine stricte, validation factuelle avant transmission au tribunal, ou abandon pur et simple de l'IA pour les documents à charge. Plusieurs juridictions testent des protocoles de vérification renforcée.
Le signal : même les secteurs qui adoptent l'IA rapidement reconnaissent maintenant qu'il y a des zones où l'automatisation crée plus de risques que de gains. La justice en est une.