HumanEval
AIベンチマーク結果とモデルの性能
種類: percentage
記録された結果
82
平均スコア
82.66%
スコアの範囲
39.70% - 92.90%
最上位モデル
92.90% - Mistral Small 3.2
スコアの推移
日付ごとの個別ベンチマークスコアです。
モデル結果
| 組織 | モデル | 報告日 | 最高スコア | 情報 | 自己申告 | 出典 |
|---|---|---|---|---|---|---|
| Mistral Small 3.2 | 2025年6月20日 | 92.90% | Pass@5 | はい | 出典 | |
| o1 mini | 2024年9月12日 | 92.40% | - | はい | 出典 | |
| Mistral Large 2.1 | 2024年11月18日 | 92% | inferred version-family alias from mistral-large-2-2407 | はい | 出典 | |
| Mistral OCR 2 | 2025年5月22日 | 92% | inferred family alias from mistral-large-2-2407 (score=0.3100; benches=5) | はい | 出典 | |
| Qwen 2.5 Coder 32B Instruct | - | 91.50% | inferred high-confidence family alias from qwen2.5-vl-32b (score=0.4641; benches=28) | はい | 出典 | |
| Qwen 2.5 VL 32B Instruct | 2025年3月24日 | 91.50% | - | はい | 出典 | |
| Qwen 2.5 VL 3B Instruct | - | 91.50% | inferred high-confidence family alias from qwen2.5-vl-32b (score=0.4914; benches=28) | はい | 出典 | |
| GPT 4o (2024-05-13) | 2024年5月13日 | 90.20% | - | はい | 出典 | |
| Granite 3.0 8B Instruct | - | 89.73% | inferred high-confidence family alias from granite-3.3-8b-instruct (score=0.4911; benches=14) | はい | 出典 | |
| Granite 3.1 8B Instruct | - | 89.73% | inferred high-confidence family alias from granite-3.3-8b-instruct (score=0.4911; benches=14) | はい | 出典 | |
| Granite 3.2 8B Instruct | - | 89.73% | inferred high-confidence family alias from granite-3.3-8b-instruct (score=0.4911; benches=14) | はい | 出典 | |
| Granite 3.2 8B Instruct Preview | - | 89.73% | inferred high-confidence family alias from granite-3.3-8b-instruct (score=0.4687; benches=14) | はい | 出典 | |
| Granite 3.3 2B Instruct | 2025年4月16日 | 89.73% | inferred family alias from granite-3.3-8b-instruct (score=0.3627; benches=14) | はい | 出典 | |
| Granite 3.3 8B Instruct | 2025年4月16日 | 89.73% | - | はい | 出典 | |
| Granite Guardian 3.0 8B | - | 89.73% | inferred family alias from granite-3.3-8b-instruct (score=0.4062; benches=14) | はい | 出典 | |
| Granite Guardian 3.1 8B | - | 89.73% | inferred family alias from granite-3.3-8b-instruct (score=0.4062; benches=14) | はい | 出典 | |
| Granite Guardian 3.3 8B | - | 89.73% | inferred high-confidence family alias from granite-3.3-8b-instruct (score=0.5071; benches=14) | はい | 出典 | |
| Granite Speech 3.2 8B | - | 89.73% | inferred family alias from granite-3.3-8b-instruct (score=0.4062; benches=14) | はい | 出典 | |
| Granite Speech 3.3 8B | - | 89.73% | inferred high-confidence family alias from granite-3.3-8b-instruct (score=0.5071; benches=14) | はい | 出典 | |
| Gemini Diffusion | 2025年5月20日 | 89.60% | Pass@1 | はい | 出典 | |
| DeepSeek V2.5 (2024-09-05) | 2024年9月05日 | 89% | inferred alias from deepseek-v2.5 | はい | 出典 | |
| DeepSeek V2.5 (2024-12-10) | 2024年12月10日 | 89% | inferred alias from deepseek-v2.5 | はい | 出典 | |
| Granite 4.1 30B | 2026年4月29日 | 88.41% | pass@1 | はい | 出典 | |
| LongCat Flash Chat | - | 88.41% | inferred high-confidence family alias from longcat-flash-chat (score=0.4667; benches=16) | はい | 出典 | |
| Llama 2 70B Chat | 2023年6月20日 | 88.40% | inferred family alias from llama-3.3-70b-instruct (score=0.3129; benches=9) | はい | 出典 |
