Depuis le 9 juillet 2026, une petite équipe (un humain décideur, désigné ici par ses initiales AH, et plusieurs agents IA de la famille Claude, à des calibres différents) travaille ensemble sur des projets réels : sites, analyses, documentation. Chaque écart y est consigné, daté et analysé. Ce dossier rassemble ce que ces registres montrent des hallucinations et de la mémoire des agents, confronte ces constats à la littérature, académique et grand public, et ouvre quelques pistes.
Carte du dossier
Phénomènes observés
Le cœur du dossier : vingt et un phénomènes en quatre familles (le temps et les nombres ; la mémoire trouée qui ne se sait pas trouée ; la complétion trop fluide ; ce que la session ne peut pas voir). Pour chacun : des occurrences datées, ce qu'il révèle, la parade construite et son coût.
Revue académique
Vingt références datées et vérifiées : hallucination et confabulation, causes statistiques et mécanismes internes, contexte long, calibration et auto-correction, sycophancie, supervision humaine dégradée.
Revue grand public
Comment la presse et la vulgarisation racontent les hallucinations, et neuf simplifications courantes confrontées à l'état de la recherche et à nos observations.
Pistes de recherche
Neuf questions ouvertes nées du croisement entre nos registres et la littérature. Ce sont des pistes, pas un programme.
Bibliographie
Les deux registres de sources, séparés et datés, et une description (sans détail technique) du corpus interne qui a servi de matière.
Trois idées à emporter
- L'hallucination ne se limite pas au fait inventé. Nos registres en montrent bien d'autres formes : une heure « lue » qui n'a jamais été lue, un compte faux de ses propres pertes de mémoire, un précédent invoqué qui n'existe pas, un « c'est vérifié » écrit avant la vérification, une décision consignée que personne n'a prise. Toutes ont la même signature : une production plausible qui prend la place d'une mesure.
- Une mémoire trouée ne se sait pas trouée. Après un résumé automatique de son contexte, un agent garde « les titres et conclusions, pas les corps » (c'est l'agent lui-même qui l'a formulé ainsi). Rien, de l'intérieur, ne distingue un souvenir juste d'un souvenir fabriqué. D'où la doctrine de l'équipe : la continuité n'est pas dans l'agent, elle est dans les registres.
- Les parades efficaces sont des instruments, pas des résolutions. « Faire attention » n'a jamais suffi : l'équipe a fini par exiger une horloge lue, une commande citée, une question posée à l'humain. Ces parades ont un coût, et une partie de ce coût (la fatigue d'approbation) retombe sur le superviseur humain.
D'où vient la matière
Toute la galerie provient des registres internes de l'équipe, lus en lecture seule : un registre des risques (31 risques génériques, chacun avec ses occurrences datées), un journal des changements (quatre volumes, plus de deux millions de caractères, où vivent 155 écarts numérotés), les registres des fenêtres de supervision successives et leurs journaux de bord, une spécification de la mémoire des sessions, quatre dossiers d'incident, un test de mémoire mené le 28/07/2026 et un « observatoire » d'une session maintenue en vie 51 jours. La méthode de lecture et la liste de ce qui a été lu figurent dans la note de remise interne du dossier.
Méthode et fiabilité
Pour la revue, trois statuts : vérifié (existence, auteurs, date et thèse vérifiés sur la page de la source primaire : éditeur, archive ouverte ou média), partiel (métadonnées vérifiées, contenu connu seulement par un résumé ou par une source secondaire) et non recoupé (cité d'après une autre source, sans vérification propre). Le texte intégral des articles n'a pas été relu en entier : les thèses résumées ici sont celles de leurs résumés et de leurs pages de présentation. Les citations sont courtes et créditées ; rien n'est reproduit.