Une expérience récente m'a fait tiquer :
Des chercheurs ont demandé à plusieurs modèles d'IA de résoudre des problèmes de raisonnement. Puis ils leur ont interdit une vingtaine de mots anglais parfaitement banals : very, really, just, quite, actually, basically, certainly… Rien qui ressemble à des concepts indispensables pour faire des maths ou résoudre un problème logique.
Et pourtant, les résultats ont changé.
Dans cette expérience publiée en préprint en 2026, les réponses sans contrainte obtenaient 83 % de réussite. Lorsque ces mots étaient interdits, le score montait à 89,7 % parmi les réponses respectant parfaitement la contrainte.
+6,7 points simplement en interdisant des mots apparemment anodins.
Il faut rester prudent : il s'agit d'un travail récent, les effets varient selon les modèles et ce résultat devra être confirmé. Mais ça pose une drôle de question... Nous considérons généralement les instructions comme : « fais court » « utilise des mots simples » « évite le jargon » « réponds uniquement en JSON » comme de simples contraintes de présentation.
Et si ce n'était pas toujours le cas ? Et si modifier la manière dont une IA a le droit de parler pouvait aussi modifier le chemin qui la mène à sa réponse ?
Le style n'est peut-être pas qu'un emballage
Nous avons tendance à imaginer une IA comme quelqu'un qui réfléchirait d'abord, puis mettrait ensuite sa pensée en mots. Dans cette représentation, demander une réponse courte ou un vocabulaire simple ne changerait que l'emballage.
Pour un modèle de langage, les choses sont moins nettes.
Lorsqu'il génère une réponse, chaque fragment produit influence ce qui vient ensuite. Une formulation choisie à un instant donné peut donc modifier la trajectoire de la génération. Cela ne signifie pas que les IA « pensent avec des mots » comme nous. Cela signifie simplement qu'il n'existe pas forcément une frontière parfaitement étanche entre le raisonnement et la manière de le formuler.
Si j'interdis certaines expressions au modèle, je peux le forcer à emprunter un autre chemin pour arriver à sa réponse. Et parfois, apparemment, ce détour lui réussit.
Pourquoi interdire « very » pourrait-il aider ?
L'expérience est justement intéressante parce qu'elle met à mal une explication séduisante. On aurait pu penser que certaines contraintes linguistiques améliorent les réponses parce qu'elles obligent l'IA à mieux conceptualiser. Par exemple : interdire certains verbes ou certaines structures grammaticales pourrait forcer le modèle à préciser ses relations logiques.
Mais pourquoi interdire very ou really aurait-il cet effet ?
Une hypothèse proposée par le chercheur est beaucoup plus simple. La contrainte agirait comme une sorte de grain de sable dans la mécanique. Un modèle dispose de chemins de génération extrêmement naturels : des formulations qu'il a vues des millions de fois et vers lesquelles il se dirige facilement.
L'obliger à surveiller son vocabulaire pourrait le faire sortir de ces automatismes et générer une autre séquence. Parfois meilleure. Mais c'est encore une hypothèse. Cela dit, elle conduit à une idée particulièrement intéressante : une petite contrainte pourrait améliorer certaines performances précisément parce qu'elle gêne le modèle.
Ce qui ne signifie évidemment pas que davantage de contraintes produiraient davantage d'intelligence. À un moment, elles pourraient au contraire commencer à lui retirer des outils utiles. Et c'est là que le sujet devient vraiment intéressant.
La langue elle-même change déjà la donne
Il existe d'ailleurs un autre indice montrant que la forme linguistique n'est pas complètement neutre : un même modèle n'obtient pas toujours les mêmes performances selon la langue dans laquelle on l'interroge.
Des benchmarks multilingues récents posent exactement les mêmes questions dans des dizaines de langues et observent des écarts parfois importants. Les causes sont multiples. Les modèles n'ont pas rencontré toutes les langues dans les mêmes proportions pendant leur entraînement.
Mais il y a aussi la tokenisation.
Une IA ne reçoit pas exactement nos mots. Ils sont découpés en fragments appelés tokens. Et toutes les langues ne sont pas découpées avec la même efficacité. Un texte français et son équivalent anglais peuvent donc représenter une quantité de tokens différente pour un même modèle.
Des travaux expérimentaux ont montré que le choix du tokenizer pouvait affecter à la fois le coût et les performances d'un modèle multilingue. Cela ne signifie évidemment pas : « il faut toujours parler anglais aux IA ». Mais cela montre quelque chose d'important.
Changer la langue n'est pas nécessairement une simple traduction de la même opération.
Et cela devrait déjà nous rendre prudents lorsque nous affirmons que la formulation d'un prompt n'a aucune influence sur le fond.
Moins de mots et moins de tokens : deux problèmes différents
Il faut cependant distinguer deux choses que l'on confond souvent. Limiter la longueur d'une réponse n'est pas la même chose que limiter le vocabulaire disponible. Les chercheurs ont déjà beaucoup étudié la première question.
Si vous dites à une IA :
« Tu as 200 tokens pour résoudre ce problème » vous limitez la quantité de texte qu'elle peut produire. Et nous savons que ces budgets peuvent modifier ses performances.
Mais imaginez maintenant une autre consigne :
« Tu peux écrire aussi longtemps que nécessaire, mais tu n'as le droit d'utiliser que 500 mots différents. » Cette fois, l'espace disponible reste immense. Ce sont les briques qui changent.
Certains termes permettent de désigner très compactement des distinctions complexes : causalité, récursivité, transitivité, corrélation, coût d'opportunité… Un modèle peut probablement expliquer ces notions sans employer ces mots. Mais il devra parfois utiliser une périphrase beaucoup plus longue.
Cette reformulation pourrait l'obliger à expliciter son raisonnement et donc l'aider. Ou elle pourrait multiplier les occasions de perdre une nuance et donc le handicaper. Et, étonnamment, nous disposons encore de très peu de données pour trancher.
L'expérience que j'aimerais vraiment voir
L'expérience me paraît pourtant assez simple à imaginer :
- Même modèle.
- Mêmes problèmes.
- Même quantité maximale de tokens.
Puis on réduit progressivement le vocabulaire autorisé :
- 5 000 mots.
- 2 000.
- 1 000.
- 500.
Et on regarde ce qui se passe :
- Est-ce que les performances baissent immédiatement ?
- Ou existe-t-il d'abord une zone où la contrainte améliore les réponses, comme dans l'expérience sur very et really ?
- À partir de quel seuil la limitation devient-elle réellement handicapante ?
- Le modèle compense-t-il en écrivant davantage ? Crée-t-il des formulations inhabituelles, voire des néologismes ?
On pourrait ensuite raffiner l'expérience. Retirer des mots abstraits. Puis retirer le même nombre de mots choisis au hasard. Et comparer. Ce serait une manière assez directe de tester une question que les études actuelles abordent encore surtout par morceaux :
Le vocabulaire est-il uniquement un moyen d'exprimer un raisonnement déjà constitué, ou fait-il aussi partie de l'environnement dans lequel ce raisonnement se construit ?
Je ne connais pas encore de réponse solide à cette question... Mais je suis de moins en moins convaincu qu'on puisse simplement l'écarter.
Ça change quelque chose à notre façon de prompter
Et c'est là que le sujet cesse d'être purement académique. Parce que nous imposons constamment des contraintes aux IA :
- « sois concis »
- « fais des phrases courtes »
- « utilise uniquement des mots simples »
- « évite le jargon »
- « ne dépasse pas trois paragraphes »
- « réponds uniquement dans ce format »
Certaines sont nécessaires, mais nous devrions peut-être arrêter de supposer qu'elles sont automatiquement neutres. Quand la qualité du raisonnement est importante, une précaution me paraît au minimum mériter d'être testée :
Ne pas surcharger inutilement l'IA de contraintes de forme pendant qu'on lui demande de résoudre le problème.
Lorsque le système le permet, on peut lui laisser davantage de liberté pour traiter la question, puis demander ensuite une version courte, simple, structurée ou adaptée au public final.
Attention : je ne prétends pas que cette méthode améliore systématiquement les résultats, la recherche actuelle ne permet pas de l'affirmer.
Ce qu'elle commence en revanche à montrer, c'est qu'un prompt de style n'est peut-être pas toujours aussi cosmétique que nous le pensions. Et pour tous ceux qui cherchent aujourd'hui à économiser des tokens en compressant fortement le langage des agents, cette question devient particulièrement intéressante.
En retirant des mots, que retirons-nous vraiment ?
Nous avons beaucoup travaillé à apprendre aux IA à mieux choisir leurs mots.
Nous commençons maintenant à accumuler quelques indices montrant que les mots disponibles, la langue employée et les contraintes imposées peuvent parfois modifier davantage que la présentation finale.
Cela ne prouve pas qu'un vocabulaire plus riche produit une meilleure « pensée ». Et cela ne prouve certainement pas qu'appauvrir le vocabulaire rend une IA moins intelligente. C'est justement le problème.
Nous ne le savons pas encore.
Mais puisque nous passons notre temps à raccourcir, simplifier, formater et parfois compresser le langage de nos agents pour gagner quelques tokens, il serait peut-être utile de vérifier ce que nous gagnons réellement. Et ce que nous risquons de perdre.
Nous avons beaucoup travaillé à apprendre aux IA à mieux choisir leurs mots. Il faudrait peut-être maintenant mesurer ce qui arrive à leur raisonnement quand nous commençons à leur en retirer.
Sources
Rodney Jehu-Appiah, « Trivial Vocabulary Bans Improve LLM Reasoning More Than Deep Linguistic Constraints » (2026). C'est la source centrale pour l'expérience sur l'interdiction de mots comme very, really ou just. Six modèles, sept types de tâches, 15 600 essais planifiés ; après filtrage du respect des contraintes, l'interdiction des mots « neutres » produit le gain moyen le plus important, +6,7 points par rapport au contrôle. Important : c'est un préprint, donc résultat intéressant mais encore à considérer avec prudence.
Rodney Jehu-Appiah, « Umwelt Engineering: Designing the Cognitive Worlds of Linguistic Agents » (2026). Étude précédente du même auteur, avec notamment les contraintes E-Prime (suppression de to be) et No-Have (suppression de to have). Elle est à l'origine de l'hypothèse selon laquelle modifier l'environnement linguistique pourrait modifier les performances cognitives du modèle. La seconde étude ci-dessus remet cependant en cause l'explication causale initialement proposée.
Weihao Xuan et al., « MMLU-ProX: A Multilingual Benchmark for Advanced Large Language Model Evaluation » (EMNLP 2025). Benchmark particulièrement intéressant car il propose 11 829 questions identiques dans 29 langues et évalue 36 LLM. Il montre que les performances d'un même univers de modèles ne sont pas uniformes selon la langue, avec des écarts particulièrement importants pour les langues disposant de moins de ressources.
Huiyuan Lai et Malvina Nissim, « mCoT: Multilingual Instruction Tuning for Reasoning Consistency in Language Models » (ACL 2024). Travail consacré spécifiquement au raisonnement multilingue, notamment mathématique, dans 11 langues. Les auteurs constatent des variations substantielles de performances entre langues pour les LLM existants. C'est une des sources derrière le passage « parler français, anglais ou une autre langue n'est pas nécessairement neutre ».
Mehdi Ali et al., « Tokenizer Choice For LLM Training: Negligible or Crucial? » (NAACL 2024). Étude contrôlée particulièrement solide sur l'influence du tokenizer : 24 modèles mono et multilingues de 2,6 milliards de paramètres ont été entraînés avec différents tokenizers. Les auteurs montrent que le choix du tokenizer peut affecter performances et coûts ; dans leurs expériences, un tokenizer trop centré sur l'anglais pouvait générer jusqu'à 68 % de coûts d'entraînement supplémentaires en contexte multilingue.
Guan-Ming Chiu, « TokLens: A Multilingual Lens on Tokenizer Quality for LLMs » (ACL 2026). Analyse de 24 tokenizers dans 15 langues. L'étude trouve une association statistique significative entre certaines mesures de qualité de tokenisation et les performances par langue sur MMLU-ProX. À prendre avec nuance : l'auteur précise que la relation reste partiellement confondue avec la composition des données d'entraînement.
Yi Sun et al., « An Empirical Study of LLM Reasoning Ability Under Strict Output Length Constraint » (EMNLP 2025). 30 LLM testés avec différents budgets de longueur de sortie. Cette étude montre que contraindre le nombre de tokens peut modifier la performance et même changer le modèle ou la stratégie de prompting optimale. Elle sert surtout dans l'article à établir la distinction entre limiter la longueur disponible et limiter le vocabulaire disponible.
