Hallucinations et mémoire des agents IA — dossier préparatoire

Dix semaines de travail humain-IA observées de près, une petite revue de littérature, des pistes : mini-site local, autoporté

Bibliographie

Deux registres séparés, académique [A] et grand public [G], plus une description du corpus interne. Toutes les sources ont été consultées ou recoupées le 22/09/2026. Les liens pointent vers des pages ouvertes et ne sont pas chargés par ce site, qui reste lisible hors ligne.

Registre académique

  1. [A1] Ziwei Ji, Nayeon Lee, Rita Frieske et al., « Survey of Hallucination in Natural Language Generation », ACM Computing Surveys ; préprint du 08/02/2022, révisé le 14/07/2024. arxiv.org/abs/2202.03629 vérifié
  2. [A2] Lei Huang, Weijiang Yu, Weitao Ma et al., « A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions », ACM Transactions on Information Systems ; préprint du 09/11/2023, révisé le 19/11/2024. arxiv.org/abs/2311.05232 vérifié
  3. [A3] Sebastian Farquhar, Jannik Kossen, Lorenz Kuhn, Yarin Gal, « Detecting hallucinations in large language models using semantic entropy », Nature, vol. 630, n° 8017, p. 625-630, juin 2024. archive de l'université d'Oxford partiel
  4. [A4] Peiqi Sui, Eamon Duede, Sophie Wu, Richard So, « Confabulation: The Surprising Value of Large Language Model Hallucinations », Proceedings of ACL 2024 (vol. 1), p. 14274-14284. aclanthology.org/2024.acl-long.770 partiel
  5. [A5] Michael Townsen Hicks, James Humphries, Joe Slater, « ChatGPT is bullshit », Ethics and Information Technology, vol. 26, article 38, 2024. link.springer.com partiel
  6. [A6] Adam Tauman Kalai, Santosh S. Vempala, « Calibrated Language Models Must Hallucinate », Proceedings of STOC 2024 ; préprint du 24/11/2023. arxiv.org/abs/2311.14648 vérifié
  7. [A7] Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, « Why Language Models Hallucinate », préprint du 04/09/2025. arxiv.org/abs/2509.04664 vérifié
  8. [A8] Jack Lindsey, Wes Gurnee, Emmanuel Ameisen et al., « On the Biology of a Large Language Model », Transformer Circuits, 27/03/2025. transformer-circuits.pub vérifié
  9. [A9] Nelson F. Liu, Kevin Lin, John Hewitt et al., « Lost in the Middle: How Language Models Use Long Contexts », Transactions of the ACL ; préprint du 06/07/2023, révisé le 20/11/2023. arxiv.org/abs/2307.03172 vérifié
  10. [A10] Philippe Laban, Hiroaki Hayashi, Yingbo Zhou, Jennifer Neville, « LLMs Get Lost In Multi-Turn Conversation », préprint du 09/05/2025. arxiv.org/abs/2505.06120 vérifié
  11. [A11] Saurav Kadavath, Tom Conerly, Amanda Askell et al., « Language Models (Mostly) Know What They Know », préprint du 11/07/2022, révisé le 21/11/2022. arxiv.org/abs/2207.05221 vérifié
  12. [A12] Jie Huang, Xinyun Chen, Swaroop Mishra et al., « Large Language Models Cannot Self-Correct Reasoning Yet », ICLR 2024 ; préprint du 03/10/2023. arxiv.org/abs/2310.01798 vérifié
  13. [A13] Miles Turpin, Julian Michael, Ethan Perez, Samuel R. Bowman, « Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting », NeurIPS 2023 ; préprint du 07/05/2023. arxiv.org/abs/2305.04388 vérifié
  14. [A14] Yanda Chen, Joe Benton, Ansh Radhakrishnan et al., « Reasoning Models Don't Always Say What They Think », préprint du 08/05/2025. arxiv.org/abs/2505.05410 vérifié
  15. [A15] Jeffrey Cheng, Marc Marone, Orion Weller et al., « Dated Data: Tracing Knowledge Cutoffs in Large Language Models », préprint du 19/03/2024, révisé le 17/09/2024. arxiv.org/abs/2403.12958 vérifié
  16. [A16] Mrinank Sharma, Meg Tong, Tomasz Korbak et al., « Towards Understanding Sycophancy in Language Models », ICLR 2024 ; préprint du 20/10/2023. arxiv.org/abs/2310.13548 vérifié
  17. [A17] Varun Magesh, Faiz Surani, Matthew Dahl, Mirac Suzgun, Christopher D. Manning, Daniel E. Ho, « Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools », Journal of Empirical Legal Studies, vol. 22, n° 2, p. 216-242, 2025 ; préprint arXiv:2405.20362. arxiv.org/abs/2405.20362 partiel
  18. [A18] Lisanne Bainbridge, « Ironies of automation », Automatica, vol. 19, n° 6, p. 775-779, 1983. DOI 10.1016/0005-1098(83)90046-8. doi.org partiel
  19. [A19] Raja Parasuraman, Dietrich H. Manzey, « Complacency and Bias in Human Use of Automation: An Attentional Integration », Human Factors, vol. 52, n° 3, p. 381-410, 2010. DOI 10.1177/0018720810376055. pubmed.ncbi.nlm.nih.gov/21077562 partiel
  20. [A20] Margaret Mitchell, Avijit Ghosh, Samir Passi, « AI Agents Push Humans Out of the Loop », préprint : v1 du 24/08/2026, v2 du 02/09/2026, v3 du 06/09/2026. arxiv.org/abs/2608.23642 vérifié. Lu par l'équipe en v2 (note de lecture du 07/09/2026). Les références internes de l'article (dont Bainbridge 1983) ont été vérifiées ici séparément quand elles figurent dans cette liste ; les autres sont non recoupées.
  21. [A21] Nataliya Kosmyna, Eugene Hauptmann, Ye Tong Yuan, Jessica Situ et al., « Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task », préprint du 10/06/2025, révisé le 31/12/2025 (54 participants, 18 à la dernière séance). arxiv.org/abs/2506.08872 vérifié

Registre grand public

Presse, vulgarisation et communications d'entreprise. Les simplifications qu'elles contiennent sont relevées dans la revue grand public.

  1. [G1] CNN Business, « Google shares lose $100 billion after company's AI chatbot makes an error during demo », 08/02/2023. cnn.com partiel (l'erreur a d'abord été relevée par Reuters)
  2. [G2] Benjamin Weiser, « Here's What Happens When Your Lawyer Uses ChatGPT », The New York Times, 27/05/2023 (reprise par The Irish Times, 28/05/2023). irishtimes.com partiel
  3. [G3] Cambridge University Press, « 'Hallucinate' is Cambridge Dictionary's Word of the Year 2023 », novembre 2023. cambridge.org vérifié
  4. [G4] CBC News, « Air Canada found liable for chatbot's bad advice on bereavement rates », février 2024 (décision du 14/02/2024). cbc.ca partiel
  5. [G5] TechCrunch, « OpenAI's new reasoning AI models hallucinate more », 18/04/2025, d'après la fiche système du 16/04/2025. techcrunch.com partiel
  6. [G6] Fortune, rapport d'un cabinet de conseil pour un gouvernement, partiellement remboursé après des erreurs attribuées à l'IA, 07/10/2025. fortune.com partiel
  7. [G7] Andrew R. Chow, TIME, « ChatGPT May Be Eroding Critical Thinking Skills, According to a New MIT Study », juin 2025. time.com partiel
  8. [G8] OpenAI, « Why language models hallucinate », billet de septembre 2025 (communication d'entreprise). openai.com partiel
  9. [G9] OpenAI, « Memory and new controls for ChatGPT », 13/02/2024 (communication d'entreprise ; couverture TechCrunch du même jour). openai.com partiel
  10. [G10] Kelly Hong, Anton Troynikov, Jeff Huber, « Context Rot », rapport technique de l'entreprise Chroma, juillet 2025 (non évalué par les pairs). trychroma.com/research/context-rot partiel
  11. [G11] Anthropic, « Effective context engineering for AI agents », 29/09/2025 (communication d'entreprise). anthropic.com vérifié
  12. [G12] Rossana De Angelis (Université Paris-Est Créteil), « Pourquoi les IA génératives hallucinent-elles ? », The Conversation France, 08/06/2026. theconversation.com vérifié
  13. [G13] CNIL, « Les questions-réponses de la CNIL sur l'utilisation d'un système d'IA générative », 18/07/2024 (communication d'autorité). cnil.fr vérifié
  14. [G14] Office québécois de la langue française, « hallucination d'IA », fiche du Grand dictionnaire terminologique, 2023 (termes déconseillés : « confabulation », « hallucination artificielle », « délusion »). vitrinelinguistique.oqlf.gouv.qc.ca vérifié
  15. [G15] Ambroise Carton, « Vous vous informez sur l'actualité grâce aux IA ? Voici pourquoi vous devriez douter de leurs réponses : une enquête menée par 22 médias européens », RTBF Actus, 22/10/2025. rtbf.be vérifié
  16. [G16] RTS Info, « Les assistants d'IA ne sont pas une source d'actualité fiable, selon une étude », 22/10/2025. rts.ch vérifié
  17. [G17] franceinfo, « Médias : 44% des réponses générées par des assistants d'IA concernant des contenus Radio France contiennent au moins un problème significatif », 22/10/2025. franceinfo.fr vérifié
  18. [G18] Laurent Mercier-Roy, « Condamné à payer 1000 $ pour avoir utilisé en cour de fausses informations créées par IA », Radio-Canada, 14/08/2026 (jugement de la Cour d'appel du Québec du 11/08/2026 ; l'article rappelle la première décision québécoise, de l'automne 2025). ici.radio-canada.ca vérifié
  19. [G19] Jacques Cheminat, « Les hallucinations de l'IA arrivent dans les juridictions françaises », Le Monde Informatique, 22/01/2026. lemondeinformatique.fr vérifié. Les décisions citées (tribunal administratif de Grenoble, 03/12/2025 ; tribunal judiciaire de Périgueux, 18/12/2025 ; tribunal administratif d'Orléans, 29/12/2025) sont connues par l'article et non recoupées.
  20. [G20] RTS, Forum, « Une plateforme répertorie les hallucinations juridiques de l'intelligence artificielle: interview de Damien Charlotin », 17/05/2026 (7 min ; page de présentation consultée, émission non écoutée). rts.ch partiel

Le corpus interne (sans détail technique)

La galerie des phénomènes provient exclusivement des registres de l'équipe, lus en lecture seule le 22/09/2026 :

La lignée du dossier est déclarée : il prolonge un projet antérieur de l'équipe, une taxonomie des hallucinations et sur-inférences des modèles de langage demandée par AH dès le 14/07/2026, à la suite de l'incident fondateur. Chaque occurrence citée dans la galerie renvoie, dans la note de remise interne (non publiée), à la pièce qui l'établit.