Hallucinations et mémoire des agents IA — dossier préparatoire

Ce qu'on raconte au public

Le public s'étonne, souvent à raison, de ce qu'on lui dit de l'IA. Cette page fait deux choses. D'abord, elle relève les récits qui ont installé les « hallucinations » dans l'espace public. Ensuite, elle confronte neuf simplifications courantes à l'état de la recherche et à ce que montrent nos registres. Les sources sont numérotées [G1] à [G20] et détaillées en bibliographie.

1. Les récits fondateurs

Ces récits ont un point commun : l'hallucination y est toujours un fait inventé (une source, une date, une image), découvert par un tiers après coup. Aucun ne raconte les formes plus discrètes que montrent nos registres : une heure, un compte, un précédent, un « c'est fait ».

2. Un cas d'école de simplification : « l'étude du MIT »

En juin 2025, un préprint du MIT Media Lab mesure par électroencéphalographie l'engagement cérébral de participants qui rédigent des essais avec un assistant, avec un moteur de recherche ou sans aide [A21]. La presse en tire, par exemple, que l'assistant « pourrait éroder l'esprit critique » (TIME, juin 2025) [G7].

Ce que dit la source : 54 participants aux trois premières séances, 18 à la quatrième, une tâche d'écriture d'essais, un préprint non évalué par les pairs, et des résultats présentés par les auteurs comme appelant une « deeper inquiry ». La note de lecture de l'équipe (07/09/2026) relève le double saut que font certains usages, y compris académiques : de la tâche à la capacité, et de l'engagement momentané à une atrophie durable.

3. Ce que disent les entreprises elles-mêmes

Les fournisseurs publient aussi leur propre vulgarisation. Ces textes méritent la lecture, mais ce ne sont pas des études indépendantes :

• un billet de septembre 2025 résume le préprint [A7] : les modèles hallucinent parce que l'évaluation récompense la devinette, comme un examen à choix multiples où l'on gagne à répondre au hasard [G8] ;
• l'annonce, en février 2024, d'une « mémoire » d'agent conversationnel qui retient des préférences d'une conversation à l'autre [G9]. Le mot « mémoire » y désigne des notes enregistrées et relues, pas un souvenir ;
• un rapport technique d'une entreprise de bases de données (« Context Rot », juillet 2025) montre que les performances de 18 modèles se dégradent quand la longueur de l'entrée augmente, même sur des tâches triviales [G10] ;
• un guide d'ingénierie de septembre 2025 recommande de traiter le contexte comme une ressource finie, de le compacter (le résumer) et de faire tenir à l'agent des notes hors de sa fenêtre [G11]. C'est, à peu de chose près, la doctrine que notre équipe avait construite par l'erreur deux mois plus tôt.

4. Côté francophone

Un article de vulgarisation paru dans The Conversation France (08/06/2026) explique les hallucinations par la disponibilité et le référencement des sources, et par une représentation vectorielle du sens dépourvue de contexte pragmatique [G12]. L'explication par l'accès aux sources est utile, mais partielle : la recherche montre qu'un modèle calibré hallucine même sur des faits présents dans ses données, dès lors qu'ils y sont rares [A6]. Le titre lui-même (« les IA hallucinent ») garde la métaphore psychiatrique que le dictionnaire de Cambridge avait consacrée [G3].

Les autorités francophones ont repris le mot, avec des précautions. Selon la CNIL, ces systèmes peuvent produire des résultats « inexacts qui peuvent, pourtant, paraître plausibles » : on parle « souvent » d'hallucinations, en particulier quand la question porte sur une information absente des données d'entraînement [G13]. L'Office québécois de la langue française en fait un terme recommandé, « hallucination d'IA », et déconseille « confabulation » [G14]. L'exemple qu'il donne est l'erreur du télescope James-Webb, premier de nos récits fondateurs [G1]. Les deux textes situent la cause dans un manque de données. C'est la simplification relevée plus haut : un fait présent mais rare suffit [A6]. Quant à « confabulation », la recherche n'en fait pas un synonyme à écarter : elle y voit un sous-ensemble précis des hallucinations [A3].

Le récit le plus repris de 2025 vient des médias publics eux-mêmes. En octobre, 22 radiodiffuseurs de 18 pays, coordonnés par l'Union européenne de radio-télévision, publient une évaluation de quatre assistants interrogés sur l'actualité. 45 % des réponses présentent au moins un problème significatif, le plus souvent dans l'attribution des sources. La RTBF, la RTS et franceinfo en rendent compte le même jour, chacune avec son propre échantillon : 8 % d'inexactitudes significatives pour la RTBF, 44 % de réponses problématiques pour Radio France [G15, G16, G17]. Le vocabulaire varie d'un média à l'autre : « hallucinations » à la RTBF, « détails inventés » à la RTS, « problèmes significatifs » chez franceinfo. Deux exemples débordent le fait inventé. Un pape encore donné pour vivant après sa mort [G16] relève de la date de coupure des connaissances [A15]. Une chronique satirique présentée comme une information [G17] n'est pas inventée : elle est déplacée, ce qui la rapproche de ce que nos registres appellent le référent qui glisse. La conclusion de la RTBF, qu'une validation humaine reste « absolument indispensable » [G15], est juste ; la recherche ajoute que cette validation, elle aussi, s'use [A18, A19, A20].

Les tribunaux fournissent le troisième récit, et il existe désormais en français. Au Québec, une première condamnation (5 000 $) sanctionne à l'automne 2025 des informations erronées produites par l'IA et présentées en cour. En août 2026, la Cour d'appel condamne un autre plaideur à verser 1 000 $ à la partie adverse : il se représentait seul, avait été averti de ses erreurs et avait maintenu les fausses décisions [G18]. En France, Le Monde Informatique relève trois décisions de décembre 2025. Le tribunal administratif de Grenoble constate des « références jurisprudentielles fantaisistes ». Le tribunal judiciaire de Périgueux invite à vérifier que les références citées ne sont pas des « hallucinations ». Le tribunal administratif d'Orléans ajoute le mot « confabulation » [G19]. Le juriste Damien Charlotin, qui recense ces affaires dans une base publique, en parle sur la RTS en mai 2026 [G20]. Deux traits distinguent ces affaires de celle de New York en 2023 [G2]. Les plaideurs y sont souvent des particuliers sans avocat. Et l'erreur, une fois signalée, peut être maintenue : un texte bien formé se lit comme un fait établi, ce que nos registres décrivent sous le nom de fait de seconde main.

Ce récit francophone rejoint le récit anglo-saxon plus qu'il ne s'en distingue : l'hallucination y reste un fait inventé (une décision, un détail, une date) que découvre un tiers. Il s'en écarte sur deux points. Le mot lui-même y est discuté : l'autorité québécoise écarte « confabulation », qu'un tribunal français emploie et que la recherche précise. Et le déplacement d'un contenu vrai y apparaît comme une erreur à part entière. Aucune de ces sources ne parle de mémoire ni de contexte : en français, le versant « mémoire » de ce dossier n'a pas de récit public dans ce que cette recherche a trouvé.

5. Neuf simplifications courantes