マルチエージェントLLM討論：真の精度向上、制御不能な計算コスト、および集団的妄想

私は、Beancountの書き戻し（write-back）の安全性に向けたマルチエージェント検証について考えてきました。具体的には、元帳へのコミットが確定する前に、チェッカーエージェントがライターエージェントと有意義な討論を行えるかどうかという点です。その疑問をきっかけに、ICML 2024で発表され、その後多くの有益な批判的フォローアップ研究を集めているマルチエージェント討論に関する基礎的な論文に立ち戻ることになりました。

論文の概要

Yilun Du、Shuang Li、Antonio Torralba、Joshua B. Tenenbaum、Igor Mordatchによる論文『Improving Factuality and Reasoning in Language Models through Multiagent Debate（マルチエージェント討論を通じた言語モデルの事実性と推論能力の向上）』は、彼らが「心の社会（society of minds）」アプローチと呼ぶ手法を提案しています。これは、複数のLLMインスタンスがそれぞれ初期回答を生成し、その後、他者の回答セット全体を読み、複数ラウンドにわたって自分の回答を更新していくというものです。重要な設計上の選択は、このアプローチがモデル出力へのブラックボックスアクセスのみを必要とすることです。つまり、勾配計算も、ファインチューニングも、アーキテクチャの変更も必要ありません。著者らは、算術、GSM8K、チェスの指し手の最適性、伝記的事実性、MMLU、チェスの指し手の妥当性の6つのベンチマークでテストを行いました。

報告された結果の多くは、3つのエージェントが2ラウンドの討論を行う設定によるものです。概念的な賭けは、「意見の相違がエージェントに推論の明確化を強いる一方で、収束は単なる運の良い一貫性ではなく、真の確信を合図する」という点にあります。

主要なアイデア

• 算術において、討論は81.8%の精度に達しました。これは単一エージェントの67.0%、単一エージェントによる自己省察の72.1%と比較して、ベースラインから14.8ポイントの向上となりました。
• GSM8K（小学校レベルの数学）では、単一エージェントの77.0%、自己省察の75.0%に対し、85.0%を記録しました。
• MMLU（広範な主題にわたる100の質問）では、単一エージェントの63.9%、自己省察の57.7%に対し、71.1%となりました。
• 伝記的事実性では、単一エージェントの66.0%に対し、73.8%となりました。
• モデル間討論（20のGSM8K問題に対してChatGPT + Bardを使用）では、各モデル単体では11〜14問だったのに対し、17/20問を解決しました。これは、異質なエージェントが互いのエラーを補完し合えることを示す、本論文で最も印象的な結果です。
• パフォーマンスはエージェント数とラウンド数の両方に比例してスケールし、4ラウンドまでは向上しましたが、それ以降は収穫逓減が見られました。合意形成前にエージェントに思考を遅らせるよう明示的に促す「長い（Long）」プロンプトは、短いプロンプトを一貫して上回りました。

維持されるもの、されないもの

精度の向上は本物であり、ベンチマークの網羅性もほとんどのプロンプティング関連の論文より広範です。私は、「複数のエージェントが互いに批評し合うことで、単一のエージェントが自身の出力を省察するよりも多くのエラーをキャッチできる」という方向性の知見を支持します。

問題は、制御されていない変数にあります。3つのエージェントが2ラウンド討論するということは、コンテキストの増大を考慮に入れなくても、1回の呼び出しに対しておよそ6倍の推論計算コストがかかることを意味します。この論文では、予算を等しくしたベースラインが提示されていません。自己整合性（Self-consistency：多数の独立した単一エージェントサンプルによる多数決）は自然な比較対象ですが、論文内ではわずかに触れられているだけです。2025年の論文（arXiv:2604.02460）では、Qwen3、DeepSeek-R1、Gemini 2.5を用い、推論トークンの予算を合わせた状態で、マルチホップ推論ベンチマークに対してまさにこの対照実験を行いました。その結果、「計算リソースを等しくすれば、単一エージェントシステムはマルチエージェントシステム（MAS）に匹敵するか、あるいはそれを凌駕する」ことが判明しました。これは、元の論文の主な主張に対する直接的な挑戦です。

論文でも認められていながら過小評価されているもう一つの失敗モードは、M3MAD-Bench（arXiv:2601.02854）が「集団的妄想（Collective Delusion）」と呼ぶものです。100件の討論失敗事例を手動分析したところ、65%において、エージェントは間違いを修正するのではなく、誤った回答を互いに強化し合っていました。論文自体も、エージェントが誤った回答に収束している場合でも「自信を持って自分の回答が正しいと断言する」ことがあると記しています。すべてのエージェントが同じ学習分布を共有している場合（同質なケース）、同じ盲点を共有する可能性が高くなります。その結果、討論はエラーをキャッチするのではなく、増幅させてしまうのです。

同論文による関連した知見として、「不正確な同調（Incorrect Conformity）」が失敗のかなりの割合を占めていることが挙げられます。これは、正しい判断をしていたエージェントが、誤った他のエージェントの回答を読んだ後に、健全な推論を放棄してしまう現象です。これは討論フレームワークが意図していたことの正反対です。マルチエージェントのループにおける説得の力学は、どちらの方向にも働き得るという教訓です。

なぜこれが金融AIにとって重要なのか

このアーキテクチャは、Beancountの書き戻しの安全性にとって非常に魅力的です。ライターが元帳エントリーを提案し、チェッカーがそれを討論し、合意が得られたらコミットを実行するという流れです。ただし、リスク分析の内容は書き込む対象によって変わります。日常的な食料品の支出に対して討論ラウンドのコストをかける価値はありません。しかし、年度末の決算整理仕訳や関係会社間の送金であれば、コミット前に別のエージェントに勘定科目コードや金額を精査させることは正当化されます。

しかし、「集団的妄想」は会計分野において特に危険です。もしライターとチェッカーの両方のエージェントが、特定の管轄区域の規則下での特定の控除の分類について同じ誤解を共有していた場合、討論はそのエラーをフラグ立てするのではなく、確定させてしまいます。本論文のモデル間討論の結果は、その解決策を示唆しています。異なるモデル、異なるシステムプロンプト、あるいは外部ドキュメントに根ざしたエージェントといった「異質なエージェント」を用いることで、真の意見の相違が表面化しやすくなります。M3MAD-Benchは、「共同的な異種討論」が同種の設定を大幅に上回ることを確認しています。

また、計算コストの増大も本番環境のスケールでは重要です。1セッションあたり10件の元帳編集 × 3エージェント × 2ラウンド = 60回のLLM呼び出しとなります。これは重要な書き込みには持続可能ですが、日常的な取引のインポートには向きません。適切な設計はおそらく階層化されたアプローチでしょう。構造化されたエントリーには高速な単一エージェントパスを使い、ライターが不確実性を表明した場合や、機密性の高い勘定科目（納税義務、利益剰余金、関係会社間勘定）に影響を与える場合にのみ、討論を呼び出すという形です。

次に読むべきもの

• arXiv:2604.02460 — "Single-Agent LLMs Outperform Multi-Agent Systems on Multi-Hop Reasoning Under Equal Thinking Token Budgets"：討論が主張する計算上の利点に対する、最も明確な反論論文。
• arXiv:2601.02854 — M3MAD-Bench：9つのモデルと13のデータセットにわたる大規模な討論評価と、集団的妄想の失敗分類。
• arXiv:2406.09187 — GuardAgent：安全ポリシーを実行可能なコードに変換するガードエージェント。討論ベースの合意形成よりも、書き戻しの安全性に対するより直接的なアプローチ。