--- title: "MT-Bench (benchmark) — MT-Benchベンチマーク" source: "https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF" wiki: "systems-analysis.info/int" article: "MT-Bench_(benchmark)_—_MT-Benchベンチマーク" language: "ja" categories: - "Category:Japanese" - "Category:Large language models" - "Category:LLM benchmarks" - "Category:Machine learning" revision_id: 4119 wiki_created_at: 2026-09-06T23:30:50Z wiki_modified_at: 2026-09-06T23:30:50Z downloaded_at: 2026-09-07T23:01:00Z --- # MT-Bench (benchmark) — MT-Benchベンチマーク **MT-Bench**（英語の*Multi-Turn Benchmark*、「マルチターン・ベンチマーク」の略）は、マルチターン対話の状況下で大規模言語モデル（LLM）を評価するための標準的なテストタスクセット（ベンチマーク）です。このベンチマークは2023年に、**LMSYS**の研究チーム（**リアンミン・ジェン**（*Lianmin Zheng*）が主導）によって、チャットボットの品質を客観的に比較するための**LLM-as-a-Judge**（「裁判官としてのLLM」）手法の一部として提案されました^{[\[1\]](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-mt_bench_paper-1)}。従来のシングルターン・テスト（MMLUなど）とは異なり、MT-Benchは、複数ステップの対話を維持し、新しい情報を последовательноに受け入れ、ユーザーの指示に正確に従うモデルの能力を検証します。その目的は、人間の嗜好や対話システムの実用的な要件に沿って、複雑なシナリオにおけるチャットボットの性能をより現実的に評価することです^{[\[2\]](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-klu_glossary-2)}。 ## 作成の背景 ChatGPT、GPT-4、Vicunaなどの対話型LLMモデルの発展により、従来の品質メトリクスと実際のユーザーによる回答の評価との間にギャップがあることが明らかになりました。RLHFを通じて人間の指示との整合性を高めるモデルの改善が、必ずしも古いシングルターン・ベンチマークのスコアを向上させるわけではないことが判明しました。MMLUやHELMのようなテストは、しばしば改善された（「調整済み」）チャットボットとそのベースモデルとを区別できません。これは、マルチターン対話やオープンエンド形式の指示の質を反映していない従来の評価手法の限界を示しています。 MT-Benchは、この問題への対応として登場し、以下の2つの側面に焦点を当てた対話形式のオープンエンドな質問セットを提供します： 1. モデルが複数のステップ（*ターン*）にわたって一貫した会話を維持する能力。 2. ユーザーの複雑な指示に正確に従う能力^{[\[1\]](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-mt_bench_paper-1)}。 ## ベンチマークの構造と内容 MT-Benchは、様々な種類のタスクを網羅する、厳選された**80**のマルチターン対話シナリオで構成されています。各シナリオには、ユーザーとモデル間の一連のやり取りが含まれており、モデルが文脈を維持し、新しい情報に適応する能力をテストします。対話は**8つ**のタスクカテゴリにグループ化されています： - **Writing**（文章作成）— 創造的なスキル（例：ブログ記事の執筆）を検証します。 - **Roleplay**（ロールプレイ）— 特定の役割での対話をシミュレートします。 - **Extraction**（情報抽出）— 提供された文脈から事実を抽出する能力を評価します。 - **Reasoning**（論理的推論）— 論理的思考を要する問題を解決します。 - **Math**（数学）— 数学の問題を解決します。 - **Coding**（コーディング）— コードの作成またはデバッグを行います。 - **STEM**（科学・技術）— 自然科学分野からの質問です。 - **Humanities**（人文科学）— 歴史、文学、社会科学に関する質問です。各カテゴリには10の対話タスクが含まれています。タスクには、モデルを「現実的」な会話で試すために、意図的にトリッキーな続き（例：突然の уточняющие 質問）が盛り込まれています^{[\[3\]](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-gabor_melli_rkb-3)}。 ## 評価手法：LLM-as-a-Judge MT-Benchの重要な特徴は、回答を自動評価するために強力な言語モデルを**裁判官**として使用することです（**LLM-as-a-Judge**）。元の論文では、この役割をGPT-4モデルが担いました^{[\[1\]](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-mt_bench_paper-1)}。評価手順は以下の通りです： 1. 各対話シナリオについて、複数の参加モデルが回答を生成します。 2. 裁判官モデル（GPT-4）がこれらの回答を比較し（ペアワイズ比較または評点スケールでの評価）、どちらが優れているかの判定を下します。自動評価は、手間のかかる手動でのラベリング作業を代替します。研究者らは、裁判官としてのGPT-4の評価が、人間の専門家の結果と**80%以上の一致率**を示し、これは人間同士の一致率に匹敵することを示しました。これは、この手法の信頼性と、人間の直接的な関与なしに評価をスケールアップできる可能性を示唆しています。客観性を高めるため、**位置バイアス**（最初の回答を好む傾向）、**冗長性バイアス**（より長い回答を好む傾向）、**自己高揚バイアス**（自身のスタイルに似た回答を好む傾向）といった裁判官モデルの潜在的なバイアスが考慮され、緩和されました^{[\[1\]](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-mt_bench_paper-1)}。 ## 結果と応用 MT-Benchにより、現代のモデルの品質における顕著な差異が明らかになりました。論理的推論、数学、コーディングのカテゴリでは、GPT-4が以前のバージョン（例：GPT-3.5）を大幅に上回りました。これは、より大規模なモデルが対話の複数ステップにわたって文脈をより良く保持することを確認しました。結果を実用的に活用するため、LMSYSチームは**公開リーダーボード**を立ち上げ、モデルを平均MT-BenchスコアとChatbot Arenaのイロレーティングでランク付けしています。このランキングは定期的に更新され、業界の進歩を反映しています。データセット自体と実行用のコードはオープンアクセスで公開されており、独立した開発者が自身のモデルをテストできるようになっています^{[\[2\]](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-klu_glossary-2)}。 ## 制限と批判 MT-BenchとLLM-as-a-Judgeアプローチは成功裏に利用されていますが、いくつかの制限があります： - **裁判官の不完全性**。裁判官モデル（例：GPT-4）は万能ではなく、テスト対象モデルの回答に含まれる事実誤認やハルシネーションを常に認識できるわけではありません。 - **論理と数学の評価の難しさ**。LLM裁判官は、複雑な推論を完全に追跡したり、証明を検証したりすることができず、評価時に誤りを犯す可能性があります。 - **バイアス**。緩和策が講じられているものの、裁判官モデルは特定のスタイルや回答形式に対する偏見を保持している可能性があります。これらの側面は、ミッションクリティカルなアプリケーションにおいては、依然として人間による監督や組み合わせ評価手法が望ましいことを意味します。 ## 発展と拡張 MT-Benchの成功は、拡張版の登場を促しました。2024年には、対話におけるモデルの能力をさらに詳細に分析することを目的とした**MT-Bench-101**という手法が提案されました。著者らは3レベルのスキル分類法を構築し、はるかに大きなデータセットを収集することで、対話の様々な段階におけるモデルの振る舞いの微妙な違いを明らかにしました^{[\[4\]](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-mt_bench_101_paper-4)}。 ## 外部リンク - GitHub上のMT-Benchデータを含む公式リポジトリ ## 参考文献 - Liang, P. et al. (2022). *Holistic Evaluation of Language Models (HELM)*. arXiv:2211.09110. - Chang, Y. et al. (2023). *A Survey on Evaluation of Large Language Models*. arXiv:2307.03109. - Ni, S. et al. (2025). *A Survey on Large Language Model Benchmarks*. arXiv:2508.15361. - Biderman, S. et al. (2024). *The Language Model Evaluation Harness (lm-eval): Guidance and Lessons Learned*. arXiv:2405.14782. - Kiela, D. et al. (2021). *Dynabench: Rethinking Benchmarking in NLP*. arXiv:2104.14337. - Ma, Z. et al. (2021). *Dynaboard: An Evaluation‑As‑A‑Service Platform for Holistic Next‑Generation Benchmarking*. arXiv:2106.06052. - Goel, K. et al. (2021). *Robustness Gym: Unifying the NLP Evaluation Landscape*. arXiv:2101.04840. - Xu, C. et al. (2024). *Benchmark Data Contamination of Large Language Models: A Survey*. arXiv:2406.04244. - Liu, S. et al. (2025). *A Comprehensive Survey on Safety Evaluation of LLMs*. arXiv:2506.11094. - Chiang, W.-L. et al. (2024). *Chatbot Arena: An Open Platform for Evaluating LLMs by Human Preference*. arXiv:2403.04132. - Boubdir, M. et al. (2023). *Elo Uncovered: Robustness and Best Practices in Language Model Evaluation*. arXiv:2311.17295. - Huang, L. et al. (2023). *A Survey on Hallucination in Large Language Models*. arXiv:2311.05232. ## 脚注 1. ↑ ^{[1.0](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-mt_bench_paper_1-0)} ^{[1.1](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-mt_bench_paper_1-1)} ^{[1.2](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-mt_bench_paper_1-2)} ^{[1.3](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-mt_bench_paper_1-3)} Zheng, L. et al. «Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena». *arXiv:2306.05685*, 2023. [1] 2. ↑ ^{[2.0](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-klu_glossary_2-0)} ^{[2.1](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-klu_glossary_2-1)} «MT-Bench (Multi-turn Benchmark)». *Klu.ai Glossary*. [2] 3. [↑](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-gabor_melli_rkb_3-0) «MT-Bench - GM-RKB». *GaborMelli.com*. [3] 4. [↑](https://systems-analysis.info/int/MT-Bench_(benchmark)_%E2%80%94_MT-Bench%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-mt_bench_101_paper_4-0) Bai, G. et al. «MT-Bench-101: A Fine-Grained Benchmark for Evaluating Large Language Models in Multi-Turn Dialogues». *arXiv:2402.14762*, 2024. [4]