Les hallucinations

Une hallucination d'IA, c'est une réponse inventée, produite avec la même assurance qu'une réponse juste. Une référence qui n'existe pas, un chiffre plausible, une citation, un article de loi, un nom. Ce n'est pas une panne. C'est le fonctionnement normal de l'outil, vu du mauvais côté.

Ce que c'est, exactement

L'outil produit la suite la plus probable d'un texte. Quand la suite la plus probable est vraie, il a raison. Quand elle est plausible sans être vraie, il invente, et rien dans sa façon d'écrire ne le signale. Le mot hallucination est trompeur : il suggère un accident. Il vaudrait mieux dire que l'outil ne sait pas qu'il ne sait pas.

Pourquoi ça ne disparaîtra pas

Les outils s'améliorent, les inventions se raréfient, les versions connectées à une recherche en produisent moins sur les faits récents. Mais tant que l'outil produit du probable et non du vérifié, il pourra inventer. Ce n'est pas un défaut de jeunesse qu'une prochaine version corrigera. C'est une propriété, et une entreprise qui attend qu'elle disparaisse pour former ses équipes attendra longtemps.

Où ça arrive le plus

Sur les références : un livre, un article, une jurisprudence, une norme, avec un numéro qui a l'air vrai. Sur les chiffres : une statistique, un pourcentage, un montant, présentés sans source. Sur les citations et les noms de personnes. Sur les faits récents ou locaux, que l'outil connaît mal. Et sur tout ce qu'on lui demande de confirmer : une question orientée obtient une réponse orientée, fausse si nécessaire.

Réduire, sans supprimer

Donner le document plutôt que demander à l'outil de se souvenir. Lui demander de ne rien ajouter qui ne soit pas dans la source, et de signaler ce qui manque. Lui dire qu'il a le droit de répondre « je ne sais pas ». Poser des questions ouvertes, pas des demandes de confirmation. Et pour les usages qui le justifient, utiliser un outil qui cherche dans vos documents avant de répondre, ce qu'on appelle la recherche augmentée. Tout cela réduit. Rien ne supprime.

Vivre avec : le réflexe

Puisque ça n'arrête pas, on vérifie. Pas tout, selon le risque : une reformulation se relit, un chiffre qui part chez un client se vérifie à la source. La grille en cinq questions prend deux minutes, et la formation la fait pratiquer jusqu'à ce qu'elle devienne aussi automatique que relire un mail. Une équipe qui a ce réflexe peut utiliser l'outil partout. Une équipe qui ne l'a pas ne devrait l'utiliser nulle part.