Quatre textes suffisent à cadrer presque tout ce qui se dit aujourd'hui sur la compréhension des machines. Ils sont antérieurs aux modèles de langage — le plus récent a près de trente ans — et c'est précisément ce qui les rend utiles : ils portent sur des conditions conceptuelles, pas sur des performances datées.
1. Turing (1950) : déplacer la question
Alan Turing ouvre « Computing Machinery and Intelligence » (Mind, 1950) sur la question « les machines peuvent-elles penser ? », et la déclare aussitôt trop mal définie pour être utile. Il lui substitue un dispositif opératoire, le jeu de l'imitation : un interrogateur dialogue à l'aveugle avec un humain et une machine ; si la machine passe pour l'humain assez souvent, la question de fond est, sinon résolue, du moins remplacée par une épreuve tranchable. confirmé
Deux lectures s'affrontent depuis, et l'ambiguïté vient du texte lui-même :
- Lecture opérationnaliste — le comportement est tout ce dont nous disposons, y compris pour autrui ; exiger davantage d'une machine que d'un humain est un préjugé.
- Lecture déflationniste — Turing ne propose pas un critère de la pensée mais un changement de sujet, précisément parce qu'il juge la question initiale mal posée.
La deuxième est aujourd'hui la plus défendue chez les commentateurs. partiellement recoupé
2. Searle (1980) : la chambre chinoise
John Searle, « Minds, Brains, and Programs » (Behavioral and Brain Sciences, 1980). L'expérience de pensée : un homme enfermé dans une pièce reçoit des caractères chinois, applique un manuel de règles purement formelles et renvoie d'autres caractères. De l'extérieur, il paraît comprendre le chinois. De l'intérieur, il ne comprend rien.
La conclusion visée est structurelle : la syntaxe ne suffit pas à la sémantique. Manipuler des symboles selon leur forme ne produit pas, à soi seul, la compréhension de ce qu'ils signifient. Searle vise le « cognitivisme fort » — la thèse selon laquelle exécuter le bon programme constitue un esprit. confirmé
Les répliques, et leur importance pour aujourd'hui
Searle a lui-même recensé et contesté les objections. Deux comptent particulièrement ici :
- La réponse du système — que Searle identifie comme la plus fréquente : l'homme dans la pièce ne comprend pas, soit ; mais le système entier (homme + manuel + registres + procédure) comprend. Searle réplique que l'homme peut mémoriser tout le dispositif et l'exécuter dans sa tête sans rien comprendre davantage. Ses contradicteurs jugent la réplique insuffisante. confirmé
- La réponse du robot — la compréhension exige un couplage causal au monde : donnez au système des capteurs et des effecteurs. Searle répond que rien ne change en substituant des entrées sensorielles à d'autres symboles. Jerry Fodor, dès 1980, objecte que Searle conclut abusivement de « ce couplage causal-là est mauvais » à « aucun couplage causal ne conviendrait ». confirmé
Ces deux répliques sont exactement celles que l'on redécouvre à propos des LLM : quand on dit qu'un modèle « comprend » parce que le système complet fait quelque chose de sensé, on reprend la première ; quand on plaide pour la multimodalité et l'incarnation, on reprend la seconde.
3. Harnad (1990) : l'ancrage des symboles
Stevan Harnad, « The Symbol Grounding Problem » (Physica D, 1990), reformule la difficulté de Searle en problème positif : comment un système peut-il élaborer de lui-même la dimension sémantique de ses symboles — comment la signification peut-elle lui être intrinsèque plutôt que prêtée de l'extérieur par un interprète ? Sa réponse esquissée passe par un ancrage sensorimoteur : les symboles de haut niveau doivent reposer, en dernière instance, sur des catégories issues de l'interaction perceptive avec le monde. confirmé
La reprise contemporaine — un débat vif
La question a été relancée par le succès des LLM, qui n'ont pour toute expérience que du texte. Trois positions au moins sont défendues dans la littérature récente :
- Le problème s'applique : les sorties d'un LLM sont entièrement gouvernées par des régularités statistiques de texte, sans contact causal avec ce qu'elles prétendent décrire.
- Les LLM le contournent plutôt qu'ils ne le résolvent — position défendue notamment dans une analyse catégorielle publiée en 2025.
- Le problème ne s'applique pas : « Pragmatic Norms Are All You Need — Why The Symbol Grounding Problem Does Not Apply to LLMs », EMNLP 2024, soutient que l'ancrage pertinent est fourni par les normes pragmatiques d'usage, non par la sensorimotricité. confirmé pour l'existence et la thèse de cet article.
Ce débat est ouvert et ce fonds ne le tranche pas. Il est repris en page Débats, débat n° 1.
4. Clark et Chalmers (1998) : l'esprit étendu
Andy Clark et David Chalmers, « The Extended Mind » (Analysis, 58(1), 1998). L'argument, dit d'externalisme actif : quand un organisme est couplé à une entité externe dans une interaction bidirectionnelle, l'ensemble forme un système cognitif à part entière — et la partie externe est constitutive de la cognition, non un simple auxiliaire.
Le cas d'école : Inga veut aller au musée, consulte sa mémoire biologique, y trouve l'adresse et s'y rend. Otto, atteint d'Alzheimer, consulte le carnet qu'il porte toujours sur lui, y trouve l'adresse et s'y rend. Clark et Chalmers soutiennent qu'il n'y a pas de différence de principe entre les deux : le carnet joue, pour Otto, le rôle fonctionnel que la mémoire joue pour Inga. Les conditions posées : la ressource externe doit être disponible de façon fiable, utilisée systématiquement, et intégrée fonctionnellement à la cognition biologique. confirmé
L'article a suscité une littérature critique abondante — notamment sur le fait que les croyances d'Otto ne présentent pas les mêmes propriétés d'accessibilité, de révisabilité et d'appropriation que celles d'Inga. partiellement recoupé : ces objections sont attestées, mais ce fonds ne les a pas dépouillées.
5. Le débat contemporain, en une référence pivot
Pour prendre la mesure de l'état du débat sur les LLM, une référence domine : Melanie Mitchell et David C. Krakauer, « The debate over understanding in AI's large language models », PNAS, vol. 120, n° 13, 28 mars 2023. confirmé
Les auteurs recensent les arguments pour et contre l'attribution d'une compréhension « au sens humain », et proposent une issue qui n'est ni oui ni non : développer une science élargie de l'intelligence capable de reconnaître des modes distincts de compréhension, avec leurs forces et leurs limites propres, plutôt que de mesurer les machines à l'aune d'un unique étalon humain. C'est la position la plus citée aujourd'hui par ceux qui refusent le partage binaire.
L'argument de l'octopus, et les perroquets
Deux textes d'Emily Bender et de ses coauteurs structurent le versant critique :
- Bender et Koller, « Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data » (ACL 2020) — dit « l'article de la pieuvre ». Une pieuvre hyper-intelligente intercepte un câble sous-marin et apprend à produire des réponses parfaitement plausibles sans rien savoir de ce dont il est question au-dessus de la mer. Thèse : un système qui n'a accès qu'à la forme ne peut, en principe, accéder au sens. confirmé
- Bender, Gebru, McMillan-Major et Shmitchell, « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? » (FAccT 2021) — déplace la critique du terrain sémantique vers le terrain des risques : biais amplifiés, coûts environnementaux, concentration de l'accès. confirmé
L'argument de la pieuvre a lui-même ses contradicteurs — voir par exemple « Occam's Razor and Bender and Koller's Octopus » (arXiv:2407.21070, 2024). confirmé pour l'existence de cette réplique ; non recoupé pour sa réception.
6. Une carte pour s'orienter
| Texte | Question posée | Ce qu'il sert à penser en 2026 |
|---|---|---|
| Turing, 1950 | Peut-on remplacer « penser » par une épreuve tranchable ? | Le statut des mesures de performance : que prouve exactement le fait de réussir une épreuve ? |
| Searle, 1980 | La syntaxe suffit-elle à la sémantique ? | L'argument de fond de tous ceux qui refusent d'accorder une compréhension aux LLM. |
| Harnad, 1990 | D'où un système tiendrait-il un sens qui lui soit propre ? | Le débat sur la multimodalité, l'incarnation, et sur ce que « ancrer » veut dire. |
| Clark et Chalmers, 1998 | Où s'arrête un esprit ? | Le statut de la mémoire externe — celle du RAG, et la nôtre quand nous déléguons. |
- Turing, A. M., « Computing Machinery and Intelligence », Mind, LIX(236), p. 433-460, 1950.
- Searle, J. R., « Minds, Brains, and Programs », Behavioral and Brain Sciences, 3(3), p. 417-424, 1980. Pour le recensement des répliques (réponse du système, réponse du robot, objection de Fodor) : Stanford Encyclopedia of Philosophy, entrée « The Chinese Room Argument » — plato.stanford.edu/entries/chinese-room
- Harnad, S., « The Symbol Grounding Problem », Physica D: Nonlinear Phenomena, 42(1-3), p. 335-346, 1990.
- « Pragmatic Norms Are All You Need – Why The Symbol Grounding Problem Does Not Apply to LLMs », EMNLP 2024 — aclanthology.org/2024.emnlp-main.651
- Clark, A. et Chalmers, D., « The Extended Mind », Analysis, 58(1), p. 7-19, 1998.
- Mitchell, M. et Krakauer, D. C., « The debate over understanding in AI's large language models », PNAS, 120(13), 28 mars 2023 — pnas.org/doi/10.1073/pnas.2215907120
- Bender, E. M. et Koller, A., « Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data », ACL 2020.
- Bender, E. M., Gebru, T., McMillan-Major, A. et Shmitchell, S., « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? », FAccT 2021.
- « Occam's Razor and Bender and Koller's Octopus », arXiv:2407.21070 (2024) — arxiv.org/abs/2407.21070
Note de méthode : les articles princeps de Turing, Searle, Harnad, Clark et Chalmers sont cités d'après leurs références canoniques et les synthèses de référence (dont la Stanford Encyclopedia of Philosophy), non par consultation directe des originaux sous droits. Aucun texte n'est reproduit ici ; les formulations sont des synthèses.