CONCEPT · ÉTUDE SPÉCIFIQUE
L’étude est livrée (lien dans l’encadré). Cette page garde ce que les trois conférences en disaient déjà, et ce que l’étude devait couvrir.
La formulation la plus nette vient de la conférence du Café Philo, dans « Les méthodes de l’IA » :
« L’hallucination » est par principe au cœur de toutes les méthodes génératives.
Autrement dit : un modèle qui n’hallucinerait jamais ne générerait rien. Générer, c’est produire un énoncé plausible à partir de corrélations ; la vérité n’intervient à aucun moment de l’opération. La fiche 5 en donne la version la plus courte : à température assez haute, « volcan » finit par sortir.
La distinction la plus utile pour un public non technique est posée au Café Philo, « Genres et espèces d’IA » :
| Apprentissage symbolique | Apprentissage automatique |
|---|---|
| Les erreurs viennent de concepts ou de règles faux. L’énoncé sur les faits est VRAI ou FAUX. | Les erreurs résultent de la nature probabiliste du résultat : ce sont les « hallucinations ». |
| Se trompe comme un raisonnement se trompe. | Se trompe comme un pari se trompe. |
Elles ne se corrigent pas de la même manière — et c’est pourquoi « il suffira de mieux l’entraîner » n’est pas une réponse.
Café Philo, « Sous le capot de DeepSeek » :
Combien y a-t-il de « 5 » dans 100 ?
Réponse statistique — la réponse la plus probable à cette question. Elle peut se trouver juste, par chance.
Réponse symbolique — un raisonnement : concept de nombre, concept d’opération arithmétique, application de l’algorithme de la division.
La seconde est juste parce qu’elle est juste ; la première l’est éventuellement par accident. À rapprocher de la fiche 1 : le modèle ne voit même pas les chiffres comme des quantités.
NDBI, « Le degré zéro du risque » : le chatbot d’Air Canada invente une règle de remboursement, un client la suit, le tribunal condamne la compagnie à 650,88 $ CA. L’exposé qualifie les hallucinations de « degré zéro du risque » de l’IA générative — non pas le risque nul, mais celui qui est toujours là. Et la défense de la compagnie — « le chatbot est une entité juridique distincte » — a été rejetée : « peu importe que l’information vienne d’une page statique ou d’un chatbot ».
Enfin, la fiche 7 de ce dossier établit qu’on ne peut pas espérer résoudre le problème par une sonde de vérité interne : aucun évaluateur définissable, total et exact ne peut exister. Ce qui ne veut pas dire qu’aucune détection n’est possible — seulement qu’aucune n’est parfaite.
| Question | Pourquoi elle manque |
|---|---|
| Une typologie | « Hallucination » recouvre des phénomènes distincts : invention d’une source, d’un chiffre, d’une citation ; confusion entre deux faits réels ; extrapolation plausible ; obéissance à une prémisse fausse de l’utilisateur. Rien n’en distingue les causes dans la matière rassemblée. |
| Des taux mesurés | Aucun chiffre dans les trois conférences. Il en existe des mesures publiées, par tâche et par modèle ; elles n’ont pas été relevées. |
| Ce qui les réduit, et de combien | Ancrage documentaire (RAG), citation obligatoire des sources, chaîne de raisonnement, vérification croisée. Aucun de ces dispositifs n’est décrit dans la matière disponible. |
| Le cas de l’hallucination confiante | Le vrai danger n’est pas l’erreur mais l’assurance avec laquelle elle est servie — ce que la discussion rapportée en fiche 7 appelle « l’air de conviction ». |
| Un exemple vécu | Le support de conférence annonce « quand elle a dérapé — et comment on l’a rattrapé ». Cette matière n’a pas encore été déposée. |