Hallucination

Pourquoi le modèle invente

Un grand modèle de langage est entraîné à produire la suite la plus plausible d'un texte, pas à établir un fait. Quand une information manque, rien ne l'oblige à se taire : la forme d'une réponse correcte reste disponible, et il la remplit. Le mécanisme explique la régularité du phénomène. Les erreurs se concentrent sur les noms propres, les dates, les références d'articles et les chiffres, c'est-à-dire sur ce qui ne se déduit pas du style.

Le modèle ne dispose pas d'un état interne de ce qu'il sait. Il ne consulte pas une base avant de répondre et ne signale pas l'absence de source. Un même fait peut recevoir deux formulations contradictoires dans deux échanges, sans que l'une soit marquée comme douteuse. La politesse du modèle aggrave le trait : il préfère une réponse complète et fluide à un refus, sauf si la consigne autorise explicitement le je ne sais pas.

Ce que cela coûte à une organisation

Une hallucination isolée se corrige ; une hallucination intégrée à un processus coûte cher. Un devis qui cite un tarif inexistant, une note qui s'appuie sur un article abrogé, un courriel qui promet un délai non tenable : la réponse était plausible et personne ne l'a relue. Le préjudice porte moins sur l'erreur elle-même que sur la confiance qu'elle détruit ensuite, en interne comme auprès du client. Le contrôle doit donc porter sur le contenu factuel, jamais sur la forme, qui reste presque toujours convaincante.

Les sujets locaux sont exposés. Un modèle nourri de textes métropolitains connaît mal les dispositifs propres à la Guadeloupe, à la Martinique ou aux collectivités d'outre-mer, et comble les lacunes avec des règles hexagonales. Les noms d'entreprises, de quartiers, de services déconcentrés échappent souvent à son corpus. Sur ces terrains, la vérification documentaire n'est pas une précaution de principe, elle conditionne l'usage utile. Une réponse juste en droit français peut être fausse appliquée localement, sans que le modèle signale ce décalage.

Réduire le risque sans le nier

La première parade consiste à fournir les documents au moment de la question, par recherche documentaire, et à exiger une citation pour chaque affirmation. Un modèle qui doit désigner le passage utilisé invente moins, et l'erreur devient vérifiable. On peut aussi fermer le périmètre : répondre uniquement à partir d'un corpus identifié, refuser les questions hors sujet, imposer un format qui sépare le fait de l'interprétation. Un document joint vaut mieux qu'une consigne qui le résume de mémoire, car la source reste consultable.

La technique ne remplace pas l'organisation. Il faut un jeu de questions de contrôle avec les bonnes réponses, un relevé des erreurs observées, et une règle claire sur ce qui peut sortir sans relecture. Les garde-fous automatiques filtrent une partie des cas, jamais l'ensemble. Sur un document engageant, la validation humaine reste le dernier rempart, et elle doit être prévue dans le temps de travail, pas supposée gratuite. Sans temps alloué, cette relecture se fait à la hâte ou pas du tout.