Cette page est le cœur du fonds pour un usage en café-philo. Chaque controverse y est exposée en vis-à-vis, avec les meilleurs arguments de chaque camp et leurs sources. Aucune conclusion n'est proposée — non par prudence, mais parce que trancher à la place du lecteur retirerait au fonds sa raison d'être.
Débat n° 1 — Les modèles de langage comprennent-ils ?
Thèse — oui, en un sens qui compte
Exiger d'une machine des preuves de compréhension qu'on n'exige d'aucun humain relève du préjugé : nous n'accordons la compréhension à autrui que sur la base de son comportement. Un système capable de répondre à des questions inédites, de transposer un raisonnement dans un domaine nouveau, de repérer sa propre erreur, satisfait aux critères ordinaires.
Sur le fond, la position la plus solide n'est pas « ils comprennent comme nous » mais « comprendre n'est pas un prédicat à deux valeurs ». Mitchell et Krakauer plaident pour reconnaître des modes distincts de compréhension, avec leurs forces et leurs angles morts propres, plutôt que de mesurer toute intelligence à l'aune de la nôtre.
Quant à l'ancrage : l'article EMNLP 2024 « Pragmatic Norms Are All You Need » soutient que le problème de Harnad ne s'applique pas aux LLM — l'ancrage pertinent est fourni par les normes d'usage d'une communauté linguistique, non par un couplage sensorimoteur.
Antithèse — non, et c'est structurel
Searle (1980) : la syntaxe ne suffit pas à la sémantique. Manipuler des symboles selon leur forme, si bien que ce soit fait, ne produit pas la compréhension de ce qu'ils signifient.
Bender et Koller (2020) donnent à l'argument une forme actualisée : la pieuvre qui intercepte un câble sous-marin apprend à produire des réponses parfaitement plausibles sans jamais accéder à ce dont il est question. Un système entraîné sur la seule forme ne peut, en principe, atteindre le sens.
Corollaire pratique : la fluidité produit une illusion de compréhension chez l'interlocuteur humain, qui masque la différence de nature. Et attribuer la compréhension sur la seule base du comportement, c'est confondre le test avec ce qu'il est censé mesurer.
Ce qui reste ouvert : les deux camps ne divergent pas sur ce que font les modèles, mais sur ce que comprendre exige. Tant que « comprendre » n'est pas défini de façon neutre — et personne n'y est parvenu —, aucune expérience ne peut départager. Le débat est conceptuel avant d'être empirique, ce qui explique qu'il ne se résolve pas par de nouveaux résultats.
Débat n° 2 — Le RAG est-il une mémoire, ou une consultation ?
Thèse — c'est bien une mémoire
Le vocabulaire fondateur va dans ce sens : Lewis et al. (2020) parlent d'une mémoire non paramétrique couplée à la mémoire paramétrique du modèle. L'index n'est pas un accessoire, c'est un étage du système de connaissance.
Clark et Chalmers (1998) ont fourni le critère : une ressource externe fiablement disponible, systématiquement utilisée et fonctionnellement intégrée fait partie du système cognitif. Le carnet d'Otto n'est pas moins une mémoire que celle d'Inga. Un index vectoriel interrogé à chaque réponse satisfait les trois conditions.
Et la psychologie ôte à l'objection son meilleur appui : depuis Bartlett (1932), on sait que la mémoire humaine elle-même reconstruit au lieu de relire. Si la reconstruction disqualifiait, elle nous disqualifierait aussi.
Antithèse — c'est une consultation, et le mot « mémoire » égare
Ce qui manque au RAG est exactement ce que Tulving (1972) jugeait constitutif de la mémoire épisodique : le rapport au vécu, le fait de se souvenir d'avoir rencontré ce contenu. Un index ne se souvient de rien ; il est interrogé.
Un souvenir humain se réorganise, s'altère, s'oublie sélectivement, se rattache à une histoire personnelle. Un vecteur inséré reste identique jusqu'à suppression. La « consolidation » des architectures d'agents désigne une tâche périodique de résumé — rien de ce qu'on sait des mécanismes biologiques n'y correspond.
Le risque est méthodologique : nommer une structure de données « mémoire épisodique », puis en conclure qu'elle ressemble à la nôtre, c'est faire passer un choix lexical pour une découverte. L'analogie fait le travail que devrait faire l'argument.
Ce qui reste ouvert : la question de savoir si le caractère subjectif de la remémoration est essentiel à la mémoire, ou un trait contingent de son implémentation biologique. Nul ne dispose d'un accès indépendant à cette réponse — et c'est le même verrou qu'au débat n° 1, sous un autre nom.
Débat n° 3 — Le RAG a-t-il encore un sens face aux très longues fenêtres ?
Thèse — le RAG naïf est condamné
Quand un modèle accepte un million de jetons en entrée, découper, indexer et récupérer devient une complication qu'on s'inflige. Donner le corpus entier supprime d'un coup toute une classe d'échecs : mauvais découpage, mauvais rappel, passages hors sujet.
Les travaux comparatifs le confirment partiellement : à ressources suffisantes, le long contexte l'emporte en qualité moyenne sur plusieurs familles de questions — notamment les questions factuelles de type encyclopédique.
La version du RAG qui mérite de disparaître est identifiée : découper au hasard, jeter dans une base vectorielle, prendre les cinq premiers, espérer que le modèle s'y retrouve.
Antithèse — la récupération n'a jamais été aussi nécessaire
Trois raisons tiennent. Le coût d'abord : à charge comparable, la récupération reste très inférieure en jetons — les évaluations publiées avancent des écarts d'un ordre de grandeur, avec une latence moindre. Le bruit ensuite : une fenêtre plus grande dilue l'attention, elle ne la concentre pas. La vérifiabilité enfin : citer un passage localisé est ce qui rend une réponse contrôlable — un corpus versé en bloc ne le permet plus.
L'évaluation LaRA (ICML 2025) conclut à l'absence de vainqueur : le choix dépend du modèle, de la taille du contexte, du type de tâche et des caractéristiques de récupération. Le RAG gagne sur le dialogue et les questions génériques, le long contexte sur les questions de type encyclopédique.
Enfin, l'argument décisif est organisationnel : les données qui comptent pour une organisation ne sont dans le corpus d'entraînement d'aucun modèle public, et n'y seront jamais.
Ce qui reste ouvert : une bonne part des chiffres avancés de chaque côté provient d'acteurs qui vendent l'une des deux solutions. Les évaluations académiques indépendantes concluent, elles, à la dépendance au cas — ce qui est une réponse honnête mais peu opérante pour qui doit choisir. partiellement recoupé pour les ordres de grandeur cités.
Débat n° 4 — L'échelle suffit-elle ?
Thèse — l'histoire donne raison à l'échelle
C'est la « leçon amère » de Richard Sutton : sur soixante-dix ans d'intelligence artificielle, les méthodes générales qui tirent parti de l'augmentation du calcul ont systématiquement fini par surpasser celles qui encodent la connaissance humaine du domaine — et les chercheurs ont systématiquement résisté à ce constat.
Les faits récents la soutiennent en partie : des capacités non explicitement entraînées apparaissent aux grandes échelles, et l'augmentation du calcul à l'inférence continue d'améliorer les performances sur les tâches de raisonnement — un axe de progrès qui n'était pas anticipé.
L'ampleur du pari en dit long : l'investissement privé en IA se compte en dizaines de milliards de dollars par an.
Antithèse — l'échelle bute, et Sutton lui-même le dit
Gary Marcus soutient depuis des années que les LLM ne comprennent pas le monde et que l'échelle ne les y mènera pas : elle améliore la couverture statistique, pas la nature du système.
Le retournement le plus notable vient de Sutton lui-même. En septembre 2025, il déclare que les LLM ne suivent pas sa leçon amère : « les grands modèles de langage apprennent à partir de données d'entraînement, pas à partir de l'expérience » — le domaine ferait, selon lui, à peu près l'inverse de ce que son essai prescrivait. partiellement recoupé : rapporté d'un entretien, non d'un texte publié par l'auteur.
Contre-exemples empiriques : des architectures spécialisées de quelques dizaines de millions de paramètres atteignent, sur certaines tâches de raisonnement, des performances que l'échelle seule n'apporte pas.
Ce qui reste ouvert : le désaccord porte sur la cible. Si la cible est « faire mieux sur les épreuves existantes », l'échelle a jusqu'ici gagné. Si c'est « acquérir un modèle du monde par l'expérience », la critique de Sutton porte contre les LLM autant que celle de Marcus. Le débat est en partie une dispute sur ce que l'on cherche à obtenir.
Débat n° 5 — Le cerveau prédictif est-il un argument dans cette affaire ?
Thèse — la convergence est réelle et significative
Le traitement prédictif décrit le cerveau comme minimisant l'erreur de prédiction (Friston ; Clark, Surfing Uncertainty, 2015). Un modèle de langage est entraîné à minimiser l'erreur de prédiction du jeton suivant. Que deux systèmes très différents convergent vers le même principe d'organisation n'est pas une coïncidence de vocabulaire : c'est un indice que la prédiction est un principe général des systèmes qui traitent de l'information dans un monde incertain.
Sous cet angle, la question « comprennent-ils ? » est peut-être mal posée : si comprendre, c'est disposer d'un modèle génératif qui prédit bien, alors la différence entre nous et eux est de degré, de modalité et d'incarnation — non de nature.
Antithèse — c'est une homonymie, pas une convergence
Les deux « prédictions » n'ont pas le même objet. Celle de Friston porte sur des entrées sensorimotrices, dans une boucle où l'organisme agit sur son monde pour réduire la surprise — l'action est constitutive du dispositif. Celle d'un LLM porte sur le jeton suivant d'un texte déjà écrit par d'autres. Retirer l'action et le corps, c'est retirer ce qui fait le cœur du modèle.
Ensuite, le principe d'énergie libre est aussi critiqué pour sa généralité : un cadre assez large pour décrire tout système adaptatif ne distingue plus rien. Qu'il s'applique aussi aux LLM n'établit donc aucune parenté — c'est ce qu'on lui reproche, pas ce qui le recommande.
Enfin, l'argument prouverait trop : un thermostat minimise aussi un écart à une valeur attendue. Le critère doit distinguer, sans quoi il n'est pas un critère.
Ce qui reste ouvert : savoir si l'incarnation et l'action sont constitutives de la cognition ou seulement le mode d'implémentation qui se trouve être le nôtre. C'est la même question qu'aux débats n° 1 et n° 2 — signe qu'il n'y a peut-être ici qu'un seul désaccord, décliné sur plusieurs terrains.
Débat n° 6 — Les poids ouverts suffisent-ils à parler d'« open source » ?
Thèse — la définition doit rester atteignable
L'Open Source Initiative a publié le 28 octobre 2024 sa Open Source AI Definition (OSAID 1.0) : le code d'entraînement et d'exécution sous licence approuvée, les paramètres librement utilisables et modifiables, et une information sur les données assez détaillée pour qu'une personne compétente puisse reconstituer le système. L'OSAID n'exige pas la publication du jeu de données lui-même.
La justification de l'OSI est pragmatique : refuser le label à tout système dont les données ne peuvent être intégralement publiées reviendrait à laisser la conversation aux industriels qui ne publient rien du tout. Une définition atteignable produit plus d'ouverture réelle qu'une définition pure et déserte.
Antithèse — c'est une érosion du terme
La Software Freedom Conservancy a publié une critique décrivant l'OSAID comme une érosion du sens d'« open source ». La Free Software Foundation objecte que, sans les données d'entraînement réelles, un utilisateur aval ne peut pas modifier le système de façon significative — or la liberté de modifier est au cœur historique de la définition.
Le constat de terrain donne du poids à l'objection : la quasi-totalité des modèles commercialisés comme « open source » — Llama, DeepSeek, Qwen, Gemma — ne sont que des modèles à poids ouverts. On peut les exécuter, non les reconstruire ni les auditer. Certaines licences ajoutent des restrictions étrangères à l'open source : la famille Llama conserve un plafond d'utilisateurs actifs mensuels et des exclusions territoriales.
Ce qui reste ouvert : ce débat n'est pas technique mais politique, et il touche directement quiconque choisit ses outils sur des critères de souveraineté. « Poids ouverts » garantit l'exécution sans dépendance — ce qui est déjà considérable. Il ne garantit ni l'auditabilité ni la reconstructibilité. Selon ce qu'on cherche, la distinction change tout ou ne change rien. Elle est reprise en page LLM en local, où elle a des conséquences pratiques.
- Mitchell, M. et Krakauer, D. C., « The debate over understanding in AI's large language models », PNAS 120(13), 2023 — pnas.org
- Searle, J. R., « Minds, Brains, and Programs », BBS 3(3), 1980 ; Stanford Encyclopedia of Philosophy, « The Chinese Room Argument ».
- Bender, E. M. et Koller, A., « Climbing towards NLU », ACL 2020 ; « Pragmatic Norms Are All You Need », EMNLP 2024 — aclanthology.org
- Lewis, P. et al., arXiv:2005.11401, NeurIPS 2020 (mémoire paramétrique / non paramétrique).
- Clark, A. et Chalmers, D., « The Extended Mind », Analysis 58(1), 1998 ; Bartlett (1932) et Tulving (1972), voir Sciences cognitives.
- « Long Context vs. RAG for LLMs: An Evaluation and Revisits », arXiv:2501.01880 ; évaluation LaRA, ICML 2025 — arxiv.org/abs/2501.01880
- Sutton, R. S., « The Bitter Lesson » (2019) ; revirement rapporté d'un entretien de septembre 2025 (Dwarkesh Podcast) — partiellement recoupé. Position de Gary Marcus : reprise de synthèses de presse spécialisée.
- Clark, A., Surfing Uncertainty, OUP, 2015 ; Friston, K., principe d'énergie libre ; critique de généralité : arXiv:2105.11203.
- Open Source Initiative, Open Source AI Definition 1.0, 28 octobre 2024 ; page « Open Weights: not quite what you've been told » — opensource.org/ai/open-weights. Critiques de la Software Freedom Conservancy et de la Free Software Foundation rapportées par des synthèses secondaires : partiellement recoupé.