Hallucination

Les hallucinations viennent du fonctionnement même des modèles de langage. Un modèle apprend à produire un texte statistiquement plausible compte tenu de ce qui précède ; il ne consulte pas de faits et n’a pas de sens intégré de ce qu’il ignore. Quand la réponse manque à son entraînement ou n’y est que faiblement représentée, la suite la plus plausible reste une phrase fluide, et il comble donc le vide par quelque chose qui se lit bien. Les questions vagues ou suggestives, les sujets rares, les demandes de chiffres précis et les entrées très longues rendent cela plus probable.

Elles prennent plusieurs formes. Un modèle peut inventer un fait, attribuer une citation à la mauvaise personne, citer une étude, un arrêt de justice ou une adresse web qui n’existe pas, confondre deux villes, médicaments ou sociétés proches ou contredire un document qu’on lui a fourni. En programmation, le cas typique est l’appel d’une fonction de bibliothèque dont le nom est vraisemblable mais qui n’existe pas. Le ton ne donne aucun indice : une réponse inventée est le plus souvent rédigée aussi aisément qu’une réponse juste.

Rien ne supprime complètement le problème, mais plusieurs habitudes le réduisent. Donne au modèle les documents sources et demande-lui de répondre uniquement à partir d’eux. Exige des citations ou des références que tu peux ouvrir. Utilise un modèle de raisonnement pour les questions à plusieurs étapes. Compare les réponses de deux modèles, ou fais relire la première par une seconde. Réduis le hasard pour les recherches factuelles et préfère une question brève et ciblée à une question tentaculaire. Et considère tout ce qui a un poids juridique, médical, financier ou de sécurité comme à confirmer auprès d’une source fiable. Les chercheurs distinguent les cas intrinsèques, où la sortie contredit le matériau fourni, des cas extrinsèques, où elle ajoute des affirmations invérifiables dans un sens comme dans l’autre ; résumé, traduction et questions-réponses présentent les deux.

La page sur la vérification des réponses d’une IA décrit le contrôle croisé de NeverNo : un modèle d’une autre famille relit la réponse, cite ce qui semble faux et propose une correction, avec deux modes, l’un qui relit sans le web et l’autre qui vérifie les affirmations sur le web en citant ses sources. Claude Sonnet 5.5, le modèle équilibré d’Anthropic, fait partie des modèles anonymisés utilisables de part et d’autre de cet échange ; il a une fenêtre de contexte de 200 000 jetons et un effort de raisonnement réglable.

Anonymisé signifie que l’éditeur, Anthropic, lit le texte sans savoir qui tu es, et que ses propres règles s’appliquent. Nous ne prétendons pas qu’un modèle hallucine plus ou moins qu’un autre. La bonne démarche est la même pour tous : demander des sources, les ouvrir et garder un contrôle humain sur ce qui compte.