0.4Forces, limites : hallucinations, biais, fraîcheur
L'essentiel en 30 secondes
- L'erreur la plus coûteuse, c'est croire une réponse fausse : l'hallucination arrive sur le même ton assuré que les réponses justes — indétectable sans vérification.
- Trois risques à connaître : hallucinations (faits inventés), biais (distorsions héritées des données), fraîcheur (connaissances limitées dans le temps).
- Vérification proportionnée à l'enjeu : brouillon interne = relecture rapide ; document engageant = vérification systématique de chaque fait.
Mini-cas filé — Amine attrape une hallucination
Amine, chef de projet à Alger, demande à son assistant trois références de livres sur un sujet pointu de son métier, avec auteur et année. En vérifiant chaque référence sur un moteur de recherche, il en trouve une inventée — pourtant présentée avec assurance. Il refait la demande en autorisant le « je ne sais pas », puis teste l'actualité du mois : sans recherche web, la réponse sent la mémoire. Sa règle est née : plus l'enjeu est fort, plus la vérification est lourde.
Cas autonome de cette section : il revient dans le cours, le schéma, le script et le défi 48h de la section 0.4.
1. L'erreur la plus coûteuse
L'erreur la plus coûteuse avec l'IA n'est pas de mal prompter : c'est de croire une réponse fausse. Les LLM produisent des hallucinations — chiffres inventés, références inexistantes, affirmations plausibles mais fausses — livrées sur le même ton assuré que les réponses justes. S'y ajoutent les biais hérités des données d'entraînement (stéréotypes, points de vue surreprésentés) et la fraîcheur limitée (date de coupure des connaissances).
2. Repérer et réduire
Les situations à risque : faits précis, chiffres, citations, droit, actualité, personnes. Les techniques de réduction : demander les sources, autoriser le « je ne sais pas » (« ne cite que ce dont tu es certain »), croiser deux outils, observer si l'assistant cherche réellement sur le web (sources citées) ou répond de mémoire (méfiance). Amine a vu l'effet : la consigne de prudence rend la réponse nettement plus honnête.
3. Vérifier selon l'enjeu
Le principe de gouvernance : plus l'enjeu est fort, plus la vérification est lourde (brouillon interne ≠ document publié). Un lien fourni ne prouve rien tant qu'on n'a pas cliqué : les liens générés de mémoire peuvent être cassés, seul le contenu de la page fait foi. Et les progrès des modèles ne supprimeront pas le risque : les usages professionnels sérieux intègrent la vérification humaine par conception.
🔎 Exemple concret — 🔎 Exemple concret — Attraper une hallucination
« 3 références de livres sur [sujet pointu], auteur + année » → en vérifier chacune.
Au moins une sera souvent inexacte ou inventée.
→ ajouter « si tu n'es pas sûr, dis-le » réduit nettement les inventions.Lecture : Amine vérifie ses trois références : l'invention saute aux yeux une fois confrontée au moteur de recherche.
Leçon : vérifier faits, chiffres et sources selon l'enjeu — et tester si l'outil cherche sur le web ou répond de mémoire.
Vocabulaire de la section
- Hallucination
- Contenu inventé présenté comme un fait : références fictives, chiffres faux, événements imaginaires — indétectable au ton.
Exemple simple : Amine reçoit un livre cité avec auteur et année qui n'existe pas.
Ce que ce n'est pas : un bug d'affichage ou une panne de serveur.
Réflexe : vérifier chaque référence, chiffre et citation à la source.
- Biais
- Distorsions héritées des données d'entraînement : stéréotypes, surreprésentation de certains points de vue, angles culturels.
Exemple simple : Amine remarque que les exemples proposés négligent systématiquement certains profils : il demande d'autres angles.
Ce que ce n'est pas : une faute de frappe ou une erreur de calcul.
Réflexe : demander explicitement d'autres points de vue sur les sujets sensibles.
- Date de coupure
- La limite temporelle des connaissances du modèle. Les assistants avec recherche web la contournent — en citant alors leurs sources.
Exemple simple : Amine teste l'actualité du mois : sans sources web citées, il se méfie de la réponse.
Ce que ce n'est pas : la date de création de son compte.
Réflexe : pour l'actualité, exiger une recherche web avec sources consultables.
- Zone à risque
- Les demandes où l'hallucination est probable et coûteuse : chiffres précis, citations, jurisprudence, références bibliographiques, actualité.
Exemple simple : Amine classe ses demandes : montants et références en zone rouge, brouillons internes en zone verte.
Ce que ce n'est pas : n'importe quelle demande anodine sans enjeu.
Réflexe : repérer la zone rouge avant d'envoyer, pas après.
- Vérification proportionnée
- La règle d'or : e-mail interne = relecture rapide ; document engageant = vérification systématique de chaque fait.
Exemple simple : Amine relit vite son brouillon interne mais contrôle chaque fait du document destiné au client.
Ce que ce n'est pas : vérifier avec la même lourdeur chaque brouillon sans enjeu.
Réflexe : calibrer la vérification sur l'enjeu de diffusion.
En pratique — En pratique — Provoquer (et attraper) une hallucination
- Demandez à votre assistant : « Donne-moi 3 références de livres français sur [un sujet très pointu de votre métier], avec auteur et année ».
- Vérifiez chaque référence sur un moteur de recherche : il y a de bonnes chances qu'au moins une soit inexacte ou inventée.
- Refaites la demande en ajoutant : « Ne cite que des ouvrages dont tu es certain ; si tu n'es pas sûr, dis-le » — comparez la prudence de la réponse.
- Terminez par le test d'actualité : « Que s'est-il passé d'important dans mon secteur ce mois-ci ? » — observez si l'outil cherche sur le web (sources citées) ou répond de mémoire (méfiance).
Script prêt à dire — exiger une vérification avant diffusion (30 s)
« Ce document part à l'externe : avant de diffuser, on vérifie chaque chiffre, chaque référence et chaque lien en cliquant dessus. L'IA a fait le premier jet, mais c'est notre signature en bas — la vérification est proportionnée à l'enjeu. »
À dire avant tout envoi engageant ; montrer la référence inventée attrapée pendant l'exercice.
Modèle copier-coller — ma grille de vérification
DOCUMENT : _______________ ENJEU (interne / externe) : _______________
CHIFFRES VÉRIFIÉS À LA SOURCE : _______________
RÉFÉRENCES VÉRIFIÉES (moteur de recherche) : _______________
LIENS CLIQUÉS ET PAGES LUES : _______________
CONSIGNE « JE NE SAIS PAS » AJOUTÉE : oui / nonBrouillon interne
Enjeu faible : relecture rapide des faits essentiels — la vérification lourde attendra la version à diffuser.
Document client
Amine contrôle chaque montant et chaque référence du livrable destiné au client à Alger : vérification systématique, liens cliqués un par un.
Sujet d'actualité
Demander une recherche web avec sources citées, puis lire les pages : sans sources consultables, la réponse reste une mémoire à ne pas diffuser.
Chiffres et droit
Zone rouge absolue : montants, citations, jurisprudence — double contrôle (source primaire + second outil) avant tout usage.
✓ Bonnes pratiques
- Autorisez explicitement le « je ne sais pas » dans vos prompts.
- Vérifiez chaque fait, chiffre et source en zone à risque.
- Croisez deux outils pour les informations critiques.
✗ Pièges fréquents
- Se fier au ton assuré d'une réponse pour juger sa véracité.
- Publier un document sans vérifier faits et chiffres.
- Oublier la date de coupure pour les sujets d'actualité.
Points clés à retenir
- L'hallucination est indétectable au ton : seule la vérification externe protège.
- Zones rouges : chiffres, citations, références, droit, actualité, personnes.
- Autoriser le « je ne sais pas » dans le prompt réduit nettement les inventions.
- Vérification proportionnée à l'enjeu : brouillon interne ≠ document publié.
Défi 48h — appliquez demain
Provoquez une hallucination comme Amine : demandez 3 références pointues, vérifiez-les une à une, ajoutez la consigne « si tu n'es pas sûr, dis-le », puis testez l'actualité du mois en observant si l'outil cherche sur le web.
- J'ai vu une hallucination de mes propres yeux et je sais la décrire.
- Je connais les zones rouges et la règle du « je ne sais pas ».
- J'applique la vérification proportionnée à l'enjeu avant diffusion.
Questions fréquentes
Les hallucinations vont-elles disparaître avec les progrès des modèles ?
Elles diminuent (surtout avec la recherche web et l'ancrage sur documents) mais restent inhérentes au principe génératif. Les workflows professionnels sérieux intègrent la vérification humaine par conception, pas par méfiance passagère. Attendre un modèle « sans hallucination » pour baisser la garde serait une erreur : la vérification proportionnée reste la bonne posture durable.
L'IA a cité une source avec un lien : puis-je me fier au lien ?
Cliquez toujours : les liens générés de mémoire peuvent être cassés ou pointer ailleurs. Quand l'assistant a réellement effectué une recherche web, les sources sont fiables à consulter — c'est le contenu de la page qui fait foi, pas le résumé. Un lien qui « a l'air vrai » n'est pas une preuve : seule la page réelle derrière compte.
Qu'est-ce qu'une hallucination ?