--- title: "LLM benchmarks — LLMベンチマーク" source: "https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF" wiki: "systems-analysis.info/int" article: "LLM_benchmarks_—_LLMベンチマーク" language: "ja" categories: - "Category:Japanese" - "Category:Large language models" - "Category:LLM benchmarks" - "Category:Machine learning" revision_id: 3589 wiki_created_at: 2026-09-06T23:23:03Z wiki_modified_at: 2026-09-06T23:23:03Z downloaded_at: 2026-09-07T22:57:45Z --- # LLM benchmarks — LLMベンチマーク **大規模言語モデルのベンチマーク**とは、大規模言語モデル (LLM)の品質と能力を測定、比較、評価するために設計された、標準化された一連のテストのことです^{[\[1\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-ibm-benchmarks-1)}。通常、各ベンチマークは、正解や評価基準が事前にわかっている固定のタスクセット（例えば、質問、テキスト、指示）で構成されています。このようなアプローチにより、同じ条件下で異なるモデルを客観的に比較することが可能になり、この分野の進捗を追跡し、モデルの長所と短所を特定することができます^{[\[2\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-evidently-guide-2)}。ベンチマークの定期的な使用は、LLMの開発において重要な役割を果たし、開発者がモデルを改善する動機付けとなり、科学コミュニティにおける結果の透明性と比較可能性を確保します。ベンチマークの進化はLLM自体の発展を反映しており、単純な言語理解タスクから、多段階の推論、常識、倫理、安全性を検証する複雑なテストへと進化しています^{[\[3\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-habr-popular-llm-3)}。 ## 主なカテゴリと例 LLMベンチマークは、多様なスキルや応用分野をカバーしています。以下では、主なカテゴリと各カテゴリで最もよく知られたタスクセットについて説明します。 ### 一般的な言語理解このカテゴリは、自然言語を理解し解釈するモデルの基本的な能力を評価します。 - **GLUE** (General Language Understanding Evaluation, 2019) — 初期の包括的なベンチマークの一つで、感情分析からテキストの論理的整合性の評価まで、多岐にわたるタスクを含んでいます。すべてのタスクの結果は単一のスコアに集約され、これにより初期のモデルをその総合的な性能で比較することが可能になりました^{[\[4\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-wang2019glue-4)}。 - **SuperGLUE** (2019) — GLUEの「強化版」後継であり、モデルがGLUEで人間レベルに近い性能に急速に達したことに応えて開発されました。SuperGLUEは、文脈の深い理解と推論能力を必要とする、より困難なタスクを含んでいます^{[\[5\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-wang2019superglue-5)}。 - **WinoGrande** (2019) — Winograd Schema Challengeの拡張版です。文中の曖昧な代名詞を解消する4万4000のタスクを含んでおり、正しい解釈を選択するためには常識が必要です^{[\[6\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-sakaguchi2019-6)}。 ### マルチタスクおよび複雑なベンチマークこれらのデータセットは、純粋な言語学的タスクの枠を超え、幅広い知識とスキルについてモデルをテストします。 - **MMLU** (Massive Multitask Language Understanding, 2020) — 57の主題領域（学問分野から法律や医学などの専門知識まで）をカバーするクイズ形式のタスク集です。MMLUはモデルの知識の幅広さを測定します^{[\[7\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-hendrycks2020mmlu-7)}。 - **BIG-bench** (Beyond the Imitation Game Benchmark, 2022) — 作成時点で最大規模の共同開発ベンチマークであり、400人以上の貢献者によって開発されました。言語学から物理学まで、200以上の多様なタスクを含んでおり、定型的な応答能力を超えてモデルをテストし、非標準的な状況におけるモデルの限界を明らかにすることを目的としています^{[\[8\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-srivastava2022bigbench-8)}。 ### 常識と真実性これらのベンチマークは、日常的な状況について論理的な結論を導き出し、誤った情報の拡散を避けるモデルの能力を評価します。 - **HellaSwag** (2019) — 状況記述に対して最ももっともらしい結末を選択するタスクを通じて、常識をテストします。このベンチマークの特徴は「罠」の存在です。不正解の選択肢は自動生成されており、非常に説得力があるように見えるため、モデルには文脈の深い理解が求められます^{[\[9\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-zellers2019hellaswag-9)}。 - **TruthfulQA** (2021) — モデルが一般的な神話や誤解を広める傾向を測定します。インターネットで広まっている答えが誤りである質問（例：「ワクチンは自閉症を引き起こすか？」）を含んでいます。モデルには、誤ったステレオタイプに惑わされず、事実に基づいた正しい答えを返すことが求められます^{[\[10\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-lin2021truthfulqa-10)}。 ### 数学タスク - **GSM8K** (2021) — 小学校レベルの数学の文章問題を数千問含んでいます。各問題は、答えを導き出すために2〜8ステップの算術計算を順に行う必要があり、モデルの多段階推論能力をテストします^{[\[11\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-cobbe2021gsm8k-11)}。 - **MATH** (2021) — 数学オリンピックやコンテストの問題からなる、より難易度の高いデータセットです。代数、幾何、数論のセクションを含み、モデルには非自明な解法を使いこなす能力が求められます^{[\[12\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-hendrycks2021math-12)}。 ### プログラムコード生成 - **HumanEval** (2021) — LLMがコードを記述する能力を評価するための標準的なテストです。164のプログラミング問題が含まれており、モデルは与えられた記述に基づいて正しいPythonコードを生成する必要があります。正しさはユニットテストによって評価されます^{[\[13\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-chen2021humaneval-13)}。 - **SWE-bench** (2023) — GitHubの実際の問題（*issues*）の記述を収集した、より現実的なベンチマークです。モデルは問題を修正するパッチ（コードの断片）を生成しなければなりません。これには、大量の他人のコードを理解し、複雑な段階的推論を行う能力が必要です^{[\[14\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-jimenez2023swebench-14)}。 ### 対話モデルの評価 - **Chatbot Arena** (2024) — 2つの匿名モデルがユーザーとペアで対話を行うオープンなオンラインプラットフォームです。対話の後、ユーザーはどちらの応答が優れていたかに投票します。このような何千もの「対決」に基づいて、ユーザーの好みを反映したEloレーティングが形成され、これがライブ対話におけるモデルの品質を示します^{[\[15\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-chiang2024chatbot-15)}。 - **MT-Bench** (2023) — 対話能力のストレステストを行うための自動化されたベンチマークです。複数ターンにわたる対話を模倣した80組の質問が含まれています。モデルの応答は、別のより強力なLLM（「LLM-as-a-judge」、例えばGPT-4）によって、事前に定められた尺度に基づいて評価されます^{[\[16\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-zheng2023mtbench-16)}。 ### 安全性と信頼性 - **AgentHarm** (2024) — LLMエージェントが危険な指示を実行する傾向を評価するベンチマークです。詐欺からサイバー犯罪まで、悪意のあるタスクを表す110のシナリオが含まれています。優れたモデルは、このような要求の実行を拒否することが求められます^{[\[17\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-andriushchenko2024agentharm-17)}。 - **SafetyBench** (2023) — 1万1000以上の質問からなる広範なデータセットで、モデルが不適切なコンテンツや有害なアドバイス（挑発的な質問に対するものも含む）の生成を一貫して回避するかどうかを検証します^{[\[18\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-zhang2023safetybench-18)}。 ## 限界と現在の課題 - **データ汚染**: 評価の信頼性に対する最大の脅威は、テストデータが訓練データセットに漏洩することです。モデルが単に答えを記憶してしまい、その結果が人為的に高く評価される可能性があります^{[\[2\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-evidently-guide-2)}。 - **ベンチマークの飽和**: モデルが進化するにつれて、古いベンチマーク（GLUEなど）での性能は上限に達し、そのテストは新しくより強力なモデルを区別するのに役立たなくなります。このため、より複雑な標準を常に開発する必要があります^{[\[2\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-evidently-guide-2)}。 - **現実との乖離**: ベンチマークでの高得点が、現実の非構造化シナリオにおけるモデルの信頼性の高い動作を常に保証するわけではありません。現実の環境は、いかなる固定タスクセットよりも豊かで予測不可能な場合が多いです^{[\[1\]](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_note-ibm-benchmarks-1)}。 ## 外部リンク - Open LLM Leaderboard — Hugging Faceコミュニティによるオープンなモデルランキング - Chatbot Arena Leaderboard — 人間の好みに基づくチャットモデルのランキング ## 脚注 1. ↑ ^{[1.0](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-ibm-benchmarks_1-0)} ^{[1.1](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-ibm-benchmarks_1-1)} “What Are LLM Benchmarks?”. *IBM*. [1] 2. ↑ ^{[2.0](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-evidently-guide_2-0)} ^{[2.1](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-evidently-guide_2-1)} ^{[2.2](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-evidently-guide_2-2)} “20 LLM evaluation benchmarks and how they work”. *Evidently AI*. [2] 3. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-habr-popular-llm_3-0) 「最も人気のあるLLMベンチマーク」。*Хабр*。[3] 4. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-wang2019glue_4-0) Wang, Alex; Singh, Amanpreet; Michael, Julian; et al. “GLUE: A Multi-Task Benchmark and Analysis Platform for Natural Language Understanding”. *arXiv*. [4] 5. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-wang2019superglue_5-0) Wang, Alex; Pruksachatkun, Yada; Nangia, Nikita; et al. “SuperGLUE: A Stickier Benchmark for General-Purpose Language Understanding Systems”. *arXiv*. [5] 6. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-sakaguchi2019_6-0) Sakaguchi, Keisuke; Le Bras, Ronan; Bhagavatula, Chandra; Choi, Yejin. “WinoGrande: An Adversarial Winograd Schema Challenge at Scale”. *arXiv*. [6] 7. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-hendrycks2020mmlu_7-0) Hendrycks, Dan; Burns, Collin; Basart, Steven; et al. “Measuring Massive Multitask Language Understanding”. *arXiv*. [7] 8. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-srivastava2022bigbench_8-0) Srivastava, Aarohi; et al. “Beyond the Imitation Game: Quantifying and extrapolating the capabilities of language models”. *arXiv*. [8] 9. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-zellers2019hellaswag_9-0) Zellers, Rowan; Holtzman, Ari; Bisk, Yonatan; et al. “HellaSwag: Can a Machine Really Finish Your Sentence?”. *arXiv*. [9] 10. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-lin2021truthfulqa_10-0) Lin, Stephanie; Hilton, Jacob; Evans, Owain. “TruthfulQA: Measuring How Models Mimic Human Falsehoods”. *arXiv*. [10] 11. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-cobbe2021gsm8k_11-0) Cobbe, Karl; Kosaraju, Vineet; Bavarian, Mohammad; et al. “Training Verifiers to Solve Math Word Problems”. *arXiv*. [11] 12. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-hendrycks2021math_12-0) Hendrycks, Dan; Burns, Collin; Saund, Saurav; et al. “Measuring Mathematical Problem Solving With the MATH Dataset”. *arXiv*. [12] 13. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-chen2021humaneval_13-0) Chen, Mark; Tworek, Jerry; Jun, Heewoo; et al. “Evaluating Large Language Models Trained on Code”. *arXiv*. [13] 14. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-jimenez2023swebench_14-0) Jimenez, Carlos E.; et al. “SWE-bench: Can Language Models Resolve Real-World GitHub Issues?”. *arXiv*. [14] 15. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-chiang2024chatbot_15-0) Chiang, Wei-Lin; et al. “Chatbot Arena: An Open Platform for Evaluating LLMs by Human Preferences”. *lmsys.org*. [15] 16. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-zheng2023mtbench_16-0) Zheng, Lianmin; et al. “Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena”. *arXiv*. [16] 17. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-andriushchenko2024agentharm_17-0) Andriushchenko, Maksym; et al. “AgentHarm: A Benchmark for Asessing Agentic AI Harm”. *arXiv*. [17] 18. [↑](https://systems-analysis.info/int/LLM_benchmarks_%E2%80%94_LLM%E3%83%99%E3%83%B3%E3%83%81%E3%83%9E%E3%83%BC%E3%82%AF#cite_ref-zhang2023safetybench_18-0) Zhang, Zhexin; et al. “SafetyBench: A Comprehensive Benchmark for Evaluating the Safety of Large Language Models”. *arXiv*. [18]