Hallucination

Une hallucination est une réponse fausse produite avec assurance par un modèle de langage : un chiffre inventé, une source qui n’existe pas, une fonctionnalité imaginaire. Elle vient de la nature même du modèle, qui produit du texte plausible, pas du texte vérifié.

Ce qu’on a relevé en 2026. Le 16 septembre 2026, un article fiscal rédigé par un outil d’IA, puis mis en forme par un second modèle, est passé en relecture avant publication. Neuf erreurs factuelles : une condition d’inscription au RCS supprimée depuis, des amortissements censés créer un déficit, des obligations prêtées à une loi qui ne les crée pas, deux prestations que le client ne propose pas, un lien vers une page officielle introuvable. Les numéros de cases de la déclaration, eux, étaient justes. C’est tout le piège : le vrai et le faux ont exactement le même ton.

Pas seulement dans les chiffres. D’autres brouillons nous ont présenté comme « tournant sur iOS et Android » un projet qui n’existait pas, ou une statistique de marché sans aucune source. Un correcteur automatique a même proposé d’ajouter à notre site un fondateur doté de « 30+ ans d’expérience ». Aucun de ces textes n’a été publié.

Ce qui les arrête. Fournir les sources au modèle (RAG) réduit les hallucinations sans les supprimer. Ce qui les arrête, c’est la vérification de chaque affirmation chiffrée ou réglementaire sur une source primaire, puis une relecture humaine de tout ce qui engage l’entreprise. Un chiffre qu’on ne peut pas sourcer sort du texte.