L'IA génère parfois des réponses entièrement inventées avec une confiance absolue. En anglais, on appelle ça des « hallucinations ». C'est un problème bien réel, surtout quand on demande à l'IA de créer des données de test ou des scénarios automatisés pour valider un logiciel.
Un ingénieur en tests logiciels l'a expérimenté à ses dépens. Il a posé une question sur un jeu turc traditionnel appelé « Körebe ». L'IA a fourni une réponse parfaitement structurée — mais entièrement fausse. L'exemple paraît anodin, mais il illustre un risque majeur : si on se fie à l'IA pour générer des environnements de test, on peut valider du code contre des scénarios qui n'ont jamais existé.
Ce sont des failles de sécurité.
Ces hallucinations ne sont pas juste des bugs amusants. Ce sont des failles de sécurité. Elles posent une question urgente pour les développeurs et les équipes QA (qualité) en France et ailleurs : comment faire confiance à un outil qui « hallucine » ? La réponse : vérifier toujours, ne jamais accepter une réponse d'IA sans la tester contre la réalité.