Les modèles IA génèrent désormais des papiers de recherche tellement convaincants que les scientifiques flipent. Résultat : on ne peut plus vérifier qui a vraiment fait la recherche et qui a juste fait tourner un modèle.
Le problème ? Les LLM actuels pondent des articles académiques avec la bonne structure, la bonne rhétorique, même des références crédibles — mais souvent inventées. Les revues scientifiques et les conférences commencent à recevoir des submissions suspectes, générées ou amplifiées par l'IA, qui passent les vérifications basiques.
Et pendant ce temps, la crédibilité de la publication scientifique se corrode..
C'est le piège classique : on voulait des outils pour accélérer la science, on se retrouve avec une pollution du pipeline académique. Les peer reviewers n'ont pas les ressources pour démêler le vrai travail de labo du texte synthétique élégant. Et pendant ce temps, la crédibilité de la publication scientifique se corrode.
Les universités et les éditeurs commencent à mettre en place des règles (déclaration de l'IA utilisée, détection de patterns), mais c'est du whack-a-mole. Le vrai défi : comment valider une découverte si on ne sait pas si le processus derrière était humain ou automatisé ?