Glossaire
Hallucination
Une hallucination, c'est quand une IA affirme quelque chose de faux avec une totale assurance : un fait, une source, une loi ou un chiffre inventés. Cela arrive parce que l'IA prédit du texte plausible, pas une vérité vérifiée : les faits importants doivent toujours être vérifiés.
Demandez à une IA les horaires d’une petite pharmacie de village et vous obtiendrez peut-être une réponse précise, courtoise et entièrement inventée. C’est une hallucination : pas un bug, mais une conséquence directe du fonctionnement d’un LLM. Le modèle produit les mots les plus plausibles, et une réponse fausse exprimée avec assurance sonne souvent plus plausible que « je ne sais pas ».
La partie dangereuse, c’est le ton. Les hallucinations arrivent avec la même voix calme et fluide que les bonnes réponses, agrémentées de numéros d’articles fictifs et d’URL qui n’existent pas. Le modèle ne ment pas ; il n’a tout simplement aucune notion du vrai et du faux.
Quelques règles honnêtes : les modèles modernes hallucinent moins qu’avant, et la recherche web ainsi que le RAG aident considérablement, mais personne n’a éliminé le problème. Utilisez donc librement l’IA pour brainstormer, rédiger des brouillons et résumer ; vérifiez les noms, les chiffres, les lois, les prix et les citations avant d’agir. Demander à l’IA de citer des sources que vous pouvez consulter est la meilleure habitude à prendre.
Du côté réglementaire, l’AI Act européen classe certains usages à haut risque précisément parce que les hallucinations peuvent avoir des conséquences réelles dans le médical, le juridique ou le financier. La CNIL rappelle que les résultats générés par une IA doivent être traités comme des données potentiellement inexactes au sens du RGPD. Le fait qu’un modèle comme Le Chat de Mistral AI soit développé en France n’élimine pas ce comportement : toutes les architectures de type LLM y sont exposées.
Où vous allez le rencontrer
Partout où une IA semble certaine de faits vérifiables : ChatGPT, Claude, Gemini et Le Chat le font tous. Les prompts qui précisent « si vous n’êtes pas sûr, dites-le » aident de façon mesurable ; notre correcteur de prompt intègre cette protection par défaut.