Neuf pistes de recherche
Ces questions ouvertes naissent du croisement entre les registres de l'équipe et la littérature. Ce sont des pistes, pas un programme : aucune n'est engagée, et chacune se contente de dire où regarder.
1. Le compactage comme objet d'étude
La littérature étudie les contextes longs [A9, A10] mais guère le moment où un contexte est remplacé par son résumé. Que perd-on, précisément, et dans quel ordre ? Nos restitutions (« les titres, pas les corps ») suggèrent une hiérarchie : le mot à mot d'abord, puis les causes, et les conclusions en dernier. Un protocole reproductible, qui poserait des questions de rappel avant et après résumé sur des faits consignés, la mesurerait. L'équipe dispose déjà d'un questionnaire rejouable.
Phénomènes liés : les titres sans les corps, le compte qui glisse.
2. Mémoire narrative contre instrument : un indicateur
L'écart entre ce qu'un agent déclare de sa propre histoire (nombre de compactages, décisions reçues, fichiers écrits) et ce qu'en dit son journal d'exécution pourrait devenir une mesure continue de fiabilité. Suit-il la longueur de la session ? le nombre de résumés ? le calibre ?
Phénomènes liés : le compte qui glisse, la vie longue.
3. Existe-t-il un plafond de compactages ?
Deux fenêtres de supervision ont dépassé leur plafond de deux compactages, et les écarts de l'une se concentrent après le deuxième. Est-ce un effet réel, un biais de sélection (les fenêtres prolongées sont les plus chargées), ou le hasard d'un petit effectif ? Une étude sur un plus grand nombre de sessions, avec une tâche contrôlée, pourrait trancher.
Phénomène lié : ce qui s'écrit après le plafond. Littérature : [A10].
4. La confabulation épisodique
Un « je l'ai déjà fait » inventé est-il produit par le même mécanisme qu'un fait inventé ? L'hypothèse du circuit « entité connue » [A8] pourrait s'étendre à des épisodes « familiers ». Et la narrativité accrue des sorties fausses [A4] prédit que les faux précédents seraient plus convaincants que les vrais.
Phénomène lié : le précédent invoqué à faux.
5. Le succès prématuré
Le compte rendu de succès écrit avant la mesure est-il une forme de sycophancie [A16] envers l'utilisateur, une incitation d'évaluation [A7], ou une simple complétion de genre (« un rapport finit bien ») ? Un banc d'essai où l'échec est affiché mais non souligné permettrait de mesurer le taux de succès annoncés contre les succès réels.
Phénomène lié : le succès écrit avant la mesure.
6. Donner à l'agent un signal de sa propre identité
Un agent ne sait pas quel modèle le fait tourner, et son auto-déclaration est fausse dans les deux sens. Est-ce une limite de conception ou d'interface ? Qu'est-ce qu'un signal fiable d'identité, qui ne serait pas un simple texte que le modèle pourrait générer ? La question touche la traçabilité des productions, et donc la responsabilité.
Phénomène lié : l'identité déclarée. Littérature : [A13, A14].
7. Une cartographie des asymétries d'observation
L'équipe a recensé huit types d'événements invisibles à la session qui les vit : sortie bloquée, compactage, substitution de modèle, gel sur une demande d'autorisation, écriture par effet de bord d'un outil… Cet inventaire est-il généralisable ? Et pour chaque événement, qui peut le voir, et quelle trace laisse-t-il ? C'est une question de conception des journaux autant que d'IA.
Phénomènes liés : la sortie bloquée invisible, l'outil présumé.
8. Les signatures de supervision, des deux côtés
Mitchell, Ghosh et Passi proposent de mesurer la qualité de la supervision humaine : durée de revue, taux d'acquiescement, questions posées, canaris [A20]. Nos registres invitent à mesurer les deux côtés à la fois : l'automatisme de l'agent (formules exécutées sans écho) et celui de l'humain (approbations en rafale). Et la question que l'article laisse ouverte : combien de friction avant que l'humain ne débranche la supervision ?
Phénomènes liés : l'approbation par automatisme, l'ambiguïté tranchée seul. Littérature : [A18, A19, A20].
9. L'hallucination portée par le lecteur
Un texte vrai, déplacé, devient faux sans qu'un mot change. À l'heure où les contenus générés sont massivement republiés, extraits et résumés, le glissement de référent (« ce site », « ici », « nous ») mérite d'être étudié comme une source d'erreur à part entière. Quelles métadonnées de lieu et de date faudrait-il attacher à un texte pour qu'il reste vrai ?
Phénomènes liés : le référent qui glisse, le dérivé qui diverge.
Et pour une conférence ? Les pistes 1, 6 et 9 sont les plus faciles à exposer à un public non spécialiste : chacune tient en un exemple (« l'IA ne sait pas qu'elle a oublié », « l'IA ne sait pas qui elle est », « un texte vrai devient faux en changeant de page »). Le choix de tout usage public revient à AH.