Les LLM à agent unique surpassent les systèmes multi-agents en raisonnement multi-sauts à budget égal de jetons de réflexion

Après avoir consacré plusieurs entrées de journal aux débats multi-agents et aux architectures de garde-fous (guardrails), j'ai voulu tester l'hypothèse de base : orchestrer plusieurs LLM nous apporte-t-il réellement un meilleur raisonnement, ou dépensons-nous simplement plus de calcul ? Dat Tran et Douwe Kiela de Stanford posent précisément cette question dans un préprint publié en avril 2026, et la réponse est inconfortable pour les évangélistes du multi-agent.

L'article

« Single-Agent LLMs Outperform Multi-Agent Systems on Multi-Hop Reasoning Under Equal Thinking Token Budgets » (arXiv:2604.02460) soulève un point méthodologique faussement simple : presque tous les benchmarks multi-agents comparent un agent unique à un système multi-agent qui utilise nettement plus de puissance de calcul. Une fois que l'on maintient le budget de jetons de réflexion constant — en faisant correspondre les jetons de raisonnement intermédiaire, hors prompts et réponses finales — les agents uniques égalent ou surpassent les systèmes multi-agents sur les tâches de raisonnement multi-sauts.

Les auteurs cadrent cela avec un argument de théorie de l'information via l'Inégalité de traitement de l'information (DPI). Lorsqu'un agent transmet un message à un autre, l'agent récepteur travaille à partir d'une version traitée du contexte original, et non du contexte lui-même. L'information ne peut être que perdue ou rester identique dans cette chaîne — jamais gagnée. La DPI prédit donc que la décomposition multi-agent introduit des goulots d'étranglement de communication inévitables, et que les systèmes multi-agents ne peuvent surpasser les agents uniques que lorsque l'utilisation efficace du contexte d'un agent unique est déjà dégradée.

Idées clés

• L'étude contrôle les « jetons de réflexion » — jetons de raisonnement intermédiaire uniquement — à travers six budgets de jetons allant de 100 à 10 000 jetons, en utilisant trois familles de modèles : Qwen3-30B, DeepSeek-R1-Distill-Llama-70B et Gemini 2.5.
• Cinq architectures multi-agents sont évaluées : séquentielle, parallèle par sous-tâches, rôles parallèles, débat et ensemble.
• Les benchmarks utilisés sont FRAMES (824 questions multi-sauts complexes nécessitant l'intégration de sources multiples) et MuSiQue (questions de connaissances mondiales à 4 sauts).
• Les systèmes à agent unique ont obtenu la précision la plus élevée ou statistiquement équivalente dans presque toutes les conditions de budget égalisé. La précision SAS variait de 0,280 à 0,427 selon les budgets ; les variantes MAS comparables affichaient une moyenne de 0,280 à 0,420.
• Le mode de défaillance caractéristique du MAS est la surexploration et la dérive : les agents explorent des sous-questions sans élagage et perdent de vue la requête initiale. Le SAS maintient un ancrage lexical plus fort à la question d'origine.
• La prédiction de la DPI se confirme empiriquement : sous une forte dégradation du contexte (masquage ou substitution à α=0,7), les systèmes multi-agents deviennent compétitifs — mais seulement à ce moment-là.

Ce qui tient la route — et ce qui ne tient pas

La méthodologie de base est la bonne approche. Le domaine a un problème de reproductibilité avec les benchmarks multi-agents précisément parce que le calcul est rarement maintenu constant, et l'insistance des auteurs sur des budgets de réflexion correspondants est une véritable contribution. Le cadre de la DPI est clair, et la prédiction expérimentale qu'il génère — le MAS aide quand l'utilisation du contexte s'effondre — est vérifiée sur trois familles de modèles, ce qui ajoute de la crédibilité.

Cela dit, plusieurs lacunes comptent. L'article n'évalue que le raisonnement multi-sauts basé sur le texte. Il exclut explicitement l'utilisation d'outils, l'exécution de code et les tâches de vision. Cette exclusion est significative : la plupart des systèmes multi-agents de production réellement déployés ne font pas de QA purement textuel, mais orchestrent des appels d'outils, des recherches API ou des interpréteurs de code entre agents. L'argument DPI sur le passage de messages entre agents est théoriquement applicable à ces contextes, mais la revendication empirique n'y a pas été validée.

Le contrôle du budget de jetons de Gemini est reconnu comme approximatif — les auteurs ont développé une variante SAS-L spéciale avec un prompt structuré car le canal de réflexion de Gemini semblait sous-utilisé en mode agent unique standard. C'est un facteur de confusion qui mérite d'être examiné. Si la comptabilisation des jetons de réflexion n'est pas fiable pour l'une des trois familles de modèles, l'affirmation d'égalisation budgétaire devient plus difficile à interpréter.

Deux benchmarks, c'est aussi peu pour une affirmation architecturale générale. FRAMES ne comporte que 824 questions ; MuSiQue est un benchmark standard mais ne couvre pas toute la diversité des structures multi-sauts. Et l'article n'aborde pas comment l'écart entre agent unique et multi-agent évolue avec la montée en puissance des capacités des modèles — le résultat pourrait être une propriété des tailles de modèles actuelles plutôt qu'une découverte architecturale fondamentale.

Pourquoi cela compte pour l'IA en finance

Le lien avec Bean Labs est réel mais nécessite de la précision. Pour un agent d'écriture Beancount (write-back), l'architecture qui m'intéresse le plus est un binôme rédacteur-vérificateur : un agent génère une écriture comptable, un autre vérifie sa conformité aux politiques avant de la valider. Ce n'est pas du QA textuel multi-sauts — c'est un pipeline séquentiel d'utilisation d'outils où le vérificateur examine un artefact proposé plutôt que de retraiter le même contexte original. L'argument DPI s'applique globalement : un agent de vérification séparé travaillant à partir de l'entrée proposée ne peut toujours pas récupérer les faits que le rédacteur a écartés. Mais le goulot d'étranglement en pratique est le rappel des règles de gestion et l'exactitude arithmétique, pas la perte d'information entre les messages.

Là où cet article frappe plus directement, c'est sur les architectures de débat examinées dans des journaux précédents (Du et al., M3MAD-Bench). Si l'objectif est une paire d'agents en débat pour détecter des erreurs dans le grand livre, et si les deux agents ont le même budget total de réflexion qu'un agent unique avec un raisonnement étendu, les preuves ici suggèrent que l'approche à agent unique est plus fiable. Le constat que le MAS n'est compétitif que lorsque le contexte est fortement dégradé importe également : pour des entrées Beancount bien structurées, où le contexte est propre et bien formé, l'avantage de l'agent unique devrait se maintenir.

La leçon pratique est de se méfier de la complexité multi-agent, à moins d'avoir une raison spécifique de croire que l'utilisation du contexte est le goulot d'étranglement. Pour la plupart des tâches de QA sur le grand livre, ce n'est probablement pas le cas.

Ce qu'il faut lire ensuite

• Mixture-of-Agents Enhances Large Language Model Capabilities (arXiv:2406.04692) — l'article dont les affirmations sur AlpacaEval sont ici le plus directement contestées ; mérite d'être lu pour comprendre exactement quelles hypothèses budgétaires il a faites.
• « Rethinking the Bounds of LLM Reasoning: Are Multi-Agent Discussions the Key? » (arXiv:2402.18272, ACL 2024) — une version antérieure de la même conclusion : un agent unique avec de bons prompts égale la discussion multi-agent ; utile pour voir comment la critique a évolué.
• Littérature sur la mise à l'échelle du calcul au moment du test (test-time compute) (DeepSeek-R1, fiche système OpenAI o1) — la question plus large est de savoir où le calcul d'inférence supplémentaire aide réellement, et une chaîne de pensée étendue au sein d'un seul modèle pourrait être la réponse la plus robuste.