Roberts Benchmarks

12 benchmarks · 221 models · updated 16 Aug 2026, 13:30
/
# Model name Lab org Composite weighted GPQA reasoning FM 1-3 math FM T4 math AIME math MATH-5 math SWE-V coding SQA-V knowledge Chess games Mystery games EBR reasoning Mirror coding OEIS math $ in /M tok $ out /M tok Context tokens Released date
1 Claude Fable 5 Anthropic 92.75/6 82.7 100.0 100.0 99.2 · · 68.3 36.7 52.0 39.5 63.9 44.0 10.00 50.00 1M 2026-06-09
2 GPT-5.6 Sol OpenAI 84.65/6 88.7 89.1 81.7 88.1 · · 71.6 38.3 58.0 39.0 20.0 43.0 5.00 30.00 1.1M 2026-07-09
3 Claude Opus 5 Anthropic 81.65/6 91.6 85.6 73.2 96.7 · · 56.7 31.7 48.0 50.0 · · 5.00 25.00 1M 2026-07-24
4 GPT-5.5 OpenAI 79.06/6 87.3 85.3 72.5 80.7 · 80.6 63.1 30.0 46.7 34.3 10.0 36.0 5.00 30.00 1.1M 2026-04-23
5 GPT-5.6 Terra OpenAI 75.55/6 86.0 86.0 70.7 80.6 · · 43.1 27.0 35.0 · · · 1.00 6.00 1.1M 2026-07-09
6 Claude Opus 4.8 Anthropic 72.35/6 88.3 80.0 56.1 93.5 · · 39.5 25.3 33.5 28.6 · 39.0 5.00 25.00 1M 2026-05-28
7 GPT-5.4 Pro OpenAI 72.04/6 94.6 82.5 58.5 · · · 47.8 58.6 · · · · 30.00 180 1.1M 2026-03-05
8 Qwen3-Max Alibaba 71.53/6 72.6 · · 73.3 97.1 · 67.5 4.0 · · · · 0.780 3.90 262K 2025-09-24
9 Qwen 3.8 Max Alibaba 71.05/6 92.7 74.7 46.3 99.4 · · 46.3 29.0 38.0 · · · 2.00 6.00 1M 2026-08-02
10 GPT-5.4 OpenAI 70.96/6 86.3 78.6 50.0 86.2 · 76.9 44.8 29.0 37.0 25.4 15.6 · 2.50 15.00 1.1M 2026-03-05
11 Gemini 3.7 Flash Google DeepMind 70.95/6 94.8 71.6 36.6 97.2 · · 71.2 47.0 37.0 · · · 0.375 1.88 1M 2026-08-13
12 Claude Opus 4.7 Anthropic 68.56/6 88.3 70.2 31.7 92.2 · 83.5 50.6 19.0 20.5 19.0 31.1 · 5.00 25.00 1M 2026-04-16
13 GPT-5.6 Luna OpenAI 68.45/6 79.2 82.1 61.0 68.3 · · 41.7 21.0 21.0 · · · 0.100 0.600 1.1M 2026-07-09
14 Qwen3.7-Max Alibaba 68.26/6 90.9 64.6 34.1 95.6 · 77.3 58.5 19.0 32.0 9.5 · · 1.48 4.42 1M 2026-05-19
15 Gemini 3.1 Pro Google DeepMind 67.76/6 94.3 59.6 26.8 95.6 · 75.6 77.3 52.0 31.7 14.3 8.9 · · · · 2026-02-19
16 Gemini 3.5 Flash Google DeepMind 66.56/6 89.4 62.8 26.8 88.1 · 79.3 68.4 46.0 30.0 4.8 · 29.0 1.50 9.00 1M 2026-05-19
17 GPT-5.5 Pro OpenAI 66.05/6 93.9 51.7 39.6 100.0 · · 64.5 64.0 · · · · 30.00 180 1.1M 2026-04-23
18 Grok 4.6 xAI 65.95/6 93.6 66.0 31.7 98.5 · · 53.7 35.5 34.0 · · · 2.00 6.00 500K 2026-08-12
19 Kimi K3open Moonshot AI 65.35/6 90.0 72.2 39.0 86.5 · · 42.7 28.0 26.0 · · · 3.00 15.00 1M 2026-07-16
20 Kimi K2.6open Moonshot AI 62.86/6 90.8 57.2 25.6 96.1 · 76.7 38.7 26.0 18.0 2.4 · · 0.542 2.28 262K 2026-04-20
21 Gemini 3 Flash Google DeepMind 61.76/6 86.3 51.2 17.1 94.2 · 75.8 67.4 39.0 23.7 · · · · · · 2025-12-17
22 Grok 4.5 xAI 61.55/6 93.4 57.2 24.4 97.8 · · 53.5 36.0 · · · · 2.00 6.00 500K 2026-07-08
23 Gemini 3.6 Flash Google DeepMind 60.45/6 88.8 58.9 22.0 85.5 · · 68.7 39.3 26.0 · · · 0.750 3.75 1M 2026-07-21
24 Gemini 3 Pro Google DeepMind 59.06/6 92.6 37.6 18.8 91.4 · 69.6 72.9 31.0 · · · · · · · 2025-11-18
25 DeepSeek V4 Flash 0731open DeepSeek 58.15/6 91.0 57.5 24.4 94.4 · · 34.7 33.0 34.0 · · · 0.140 0.280 1M 2026-07-31
26 Claude Sonnet 5 Anthropic 57.95/6 85.4 65.6 29.3 87.4 · · 23.7 25.5 25.5 · · · 2.00 10.00 1M 2026-06-30
27 GLM-5.2open Z.ai 57.76/6 81.5 59.2 29.3 57.6 · 78.7 38.1 13.5 · 9.5 · · 0.308 0.968 1M 2026-06-16
28 Claude Opus 4.6 Anthropic 57.66/6 89.2 39.7 19.8 92.9 · 75.6 43.5 13.5 15.7 12.7 · · 5.00 25.00 1M 2026-02-05
29 Claude Sonnet 4.6 Anthropic 57.46/6 83.2 80.0 0.0 78.7 · 75.2 29.0 7.3 15.0 · · · 3.00 15.00 1M 2026-02-17
30 Gemma 4 31B ITopen Google DeepMind 56.83/6 75.8 · · 73.3 · · 9.6 5.0 · · · · · · · 2026-04-02
31 DeepSeek-V4-Proopen DeepSeek 54.56/6 84.6 45.3 2.4 79.6 · 77.6 57.0 13.3 · · · · 1.17 2.34 1M 2026-04-24
32 Kimi K2.7 Codeopen Moonshot AI 54.35/6 87.9 54.0 12.2 95.6 · · 39.2 21.0 · · · · 0.710 3.50 262K 2026-06-12
33 Muse Spark Meta AI 53.75/6 89.8 39.0 14.6 88.9 · · 66.3 · · · · · · · · 2026-04-08
34 GPT-5.2 OpenAI 52.96/6 84.7 36.1 15.1 85.4 · 72.8 36.8 31.2 23.0 23.0 · · 1.75 14.00 400K 2025-12-11
35 Grok 4.20 xAI 52.35/6 89.3 44.9 17.1 92.2 · · 35.1 24.0 · · · · 1.25 2.50 2M 2026-02-17
36 Qwen 3.6 Max (Preview) Alibaba 52.06/6 87.4 23.1 4.2 91.1 · 76.7 56.9 20.0 16.0 · · · 1.03 6.16 262K 2026-04-20
37 Grok 4.3 Beta xAI 51.65/6 88.8 42.8 14.6 93.3 · · 38.0 25.0 · · · · · · · 2026-04-17
38 GLM-5.1open Z.ai 51.46/6 89.9 33.4 0.0 93.3 · 74.2 37.3 19.0 · · · · 0.966 3.04 205K 2026-04-07
39 o1-preview OpenAI 50.93/6 50.3 · · 31.1 81.6 64.6 · · · · · · · · · 2024-09-12
40 gpt-oss-120bopen OpenAI 50.44/6 75.8 · · 88.9 · 26.0 13.9 20.0 · · · · 0.030 0.170 131K 2025-08-05
41 Inkling-Smallopen Thinking Machines 50.15/6 88.5 46.3 17.1 90.0 · · 19.5 18.0 6.0 · · · 0.450 1.20 524K 2026-07-15
42 Kimi K2.5open Moonshot AI 49.66/6 87.6 27.9 4.2 92.2 · 70.8 33.9 12.0 · · · · 0.570 2.85 262K 2026-01-27
43 GPT-5 OpenAI 48.36/6 81.1 29.8 0.0 75.1 98.0 74.4 50.6 26.5 23.0 12.7 · · 1.25 10.00 400K 2025-08-07
44 Qwen 3.6 Plus Alibaba 47.56/6 88.4 26.2 0.0 93.3 · 57.9 49.1 17.0 27.0 · · · 0.325 1.95 1M 2026-03-31
45 Claude Opus 4.5 Anthropic 47.26/6 84.1 20.6 3.5 71.9 · 79.2 41.8 8.0 22.0 14.3 · · 5.00 25.00 200K 2025-11-24
46 GLM-5open Z.ai 46.95/6 87.8 16.4 2.1 80.0 · 72.8 · 10.0 · · · · 0.600 1.92 205K 2026-02-11
47 Inklingopen Thinking Machines 46.05/6 88.3 33.3 4.9 88.9 · · 40.2 21.0 · · · · 0.950 4.05 1M 2026-07-15
48 Kimi K2 Thinkingopen Moonshot AI 45.76/6 84.2 30.0 0.0 83.1 · 63.4 31.6 20.0 · · · · 0.600 2.50 262K 2025-11-06
49 GPT-5.4 Mini OpenAI 45.05/6 78.2 51.2 9.8 67.6 · · 28.6 15.0 · · · · 0.750 4.50 400K 2026-03-17
50 GPT-5.1 OpenAI 44.96/6 79.8 19.3 8.3 69.0 · 66.0 48.9 21.0 · · · · 1.25 10.00 400K 2025-11-13
51 o1 OpenAI 44.63/6 75.6 9.3 · 66.7 94.6 · · 11.3 · · · · 15.00 60.00 200K 2024-12-17
52 Gemini 2.5 Pro (Jun 2025) Google DeepMind 43.66/6 85.1 12.2 0.0 84.2 · 57.6 56.0 20.0 · · · · · · · 2025-06-17
53 o3 OpenAI 42.86/6 80.8 15.1 2.1 76.1 97.8 58.4 53.0 33.0 · · · · 2.00 8.00 200K 2025-04-16
54 DeepSeek-V3.2open DeepSeek 42.46/6 77.3 22.1 2.1 68.4 · 70.0 27.5 7.5 · · · · 0.269 0.400 164K 2025-12-01
55 Grok 4 xAI 41.15/6 87.0 19.7 0.0 84.0 · · 47.9 28.0 · · · · · · · 2025-07-09
56 Claude Sonnet 4.5 Anthropic 40.66/6 79.1 12.7 3.1 65.6 97.7 74.8 18.3 8.0 17.0 2.4 · · 3.00 15.00 1M 2025-09-29
57 GPT-5.4 Nano OpenAI 40.25/6 68.7 44.9 12.2 67.8 · · 12.0 16.7 · · · · 0.200 1.25 400K 2026-03-17
58 o4-mini OpenAI 40.06/6 77.5 18.2 0.0 70.9 97.8 64.6 22.9 20.0 · · · · 1.10 4.40 200K 2025-04-16
59 GPT-5 mini OpenAI 39.66/6 72.8 23.8 0.0 73.5 97.3 59.8 21.0 16.3 · · · · 0.250 2.00 400K 2025-08-07
60 Qwen 3.5 Plus (hosted 397B-A17B) Alibaba 39.25/6 84.8 21.0 2.1 86.7 · · 26.0 22.0 15.5 · · · · · · 2026-02-16
61 Claude Sonnet 4 Anthropic 38.75/6 74.6 4.1 0.0 55.6 84.4 76.8 · · · · · · 3.00 15.00 1M 2025-05-22
62 GPT-5.5 Instant OpenAI 38.65/6 82.5 26.3 2.4 68.1 · · 38.0 12.0 · · · · · · · 2026-05-05
63 DeepSeek-R1 (May 2025)open DeepSeek 38.44/6 76.3 · 0.0 66.4 96.6 · 27.4 · · · · · · · · 2025-05-28
64 Claude Opus 4 Anthropic 38.15/6 72.7 4.3 2.1 55.6 85.0 73.2 · · · · · · 15.00 75.00 200K 2025-05-22
65 Qwen3-235B-A22B (Jul 2025)open Alibaba 37.85/6 80.1 8.5 0.0 86.7 · · 50.1 12.0 · · · · · · · 2025-07-25
66 Claude Opus 4.1 Anthropic 37.76/6 75.8 0.0 2.4 57.8 · 73.3 34.8 7.0 21.0 7.9 · · 15.00 75.00 200K 2025-08-05
67 Gemini 3.5 Flash-Lite Google DeepMind 35.54/6 77.8 26.0 0.0 60.7 · · · 20.3 15.5 · · · 0.300 2.50 1M 2026-07-21
68 Qwen 3.6 Flash Alibaba 34.65/6 83.3 10.3 0.0 84.4 · · 21.2 20.0 14.0 · · · 0.188 1.13 1M 2026-04-27
69 Claude 3.7 Sonnet Anthropic 34.55/6 74.5 3.4 0.0 44.9 83.9 66.4 · · · · · · · · · 2025-02-24
70 GLM-4.7open Z.ai 33.75/6 83.3 2.4 0.0 83.3 · · 31.5 6.0 · · · · 0.400 1.75 205K 2025-12-22
71 Qwen 3.5 Flash (hosted 35B-A3B) Alibaba 33.25/6 82.3 6.2 0.0 84.4 · · 19.8 21.0 15.0 · · · · · · 2026-02-25
72 o3-mini OpenAI 32.95/6 73.2 10.2 0.0 61.8 95.8 42.4 · 10.7 · · · · 1.10 4.40 200K 2025-01-31
73 GPT-4.1 mini OpenAI 32.34/6 65.8 10.0 · 44.7 87.3 23.9 · 7.0 · · · · 0.400 1.60 1M 2025-04-14
74 Claude Haiku 4.5 Anthropic 32.06/6 65.8 5.0 2.1 51.3 91.6 66.6 5.9 8.0 · · · · 1.00 5.00 200K 2025-10-15
75 o1-mini OpenAI 30.53/6 60.9 0.0 · 45.8 86.7 · · · · · · · · · · 2024-09-12
76 DeepSeek-V3 (Mar 2025)open DeepSeek 30.13/6 67.6 0.0 · 37.8 75.5 · · · · · · · · · · 2025-03-24
77 GPT-5 nano OpenAI 28.16/6 60.7 15.0 0.0 59.4 95.1 34.8 12.2 14.3 · · · · 0.050 0.400 400K 2025-08-07
78 Grok-3 mini xAI 28.05/6 75.4 0.0 0.0 70.0 89.5 · 21.1 · · · · · · · · 2025-04-09
79 Mistral Medium 3 Mistral 26.23/6 59.5 0.0 · 32.2 81.6 · · · · · · · 0.400 2.00 131K 2025-05-07
80 Grok 3 xAI 25.84/6 67.6 3.8 0.0 55.6 88.7 · · · · · · · · · · 2025-04-09
81 Llama 4 Maverickopen Meta AI 25.33/6 67.0 0.7 · 20.6 73.0 · · · · · · · 0.200 0.800 1M 2025-04-05
82 GPT-4.1 OpenAI 25.35/6 66.9 0.0 0.0 38.3 83.0 39.6 · 6.0 · · · · 2.00 8.00 1M 2025-04-14
83 Magistral Small 1.0open Mistral 24.63/6 56.1 0.0 · 30.0 · · · · · · · · · · · 2025-06-10
84 Claude 3.5 Sonnet Anthropic 23.95/6 54.0 0.0 0.0 6.5 51.7 63.4 · · · · · · · · · 2024-06-20
85 Gemini 2.0 Flash Google DeepMind 23.64/6 64.1 1.7 · 31.1 82.2 13.5 · · · · · · · · · 2025-02-05
86 GLM-4.6open Z.ai 23.43/6 · 0.0 2.1 · · 68.2 · · · · · · 0.550 2.20 205K 2025-09-30
87 Gemini 2.5 Flash Google DeepMind 23.44/6 · 4.8 4.2 71.9 · 28.7 · · · · · · 0.300 2.50 1M 2025-06-17
88 GPT-4o OpenAI 22.74/6 48.7 0.3 · 6.3 51.4 38.8 · 13.0 · · · · 2.50 10.00 128K 2024-08-06
89 GPT-4.1 nano OpenAI 22.23/6 48.9 0.0 · 28.9 70.0 · · · · · · · 0.100 0.400 1M 2025-04-14
90 Claude 3 Opus Anthropic 21.63/6 47.2 · · 4.7 37.5 15.8 · 5.0 · · · · · · · 2024-02-29
91 GLM-4.5open Z.ai 21.43/6 · 0.0 0.0 · · 64.2 · · · · · · 0.600 2.20 131K 2025-08-03
92 DeepSeek-V3open DeepSeek 21.43/6 56.5 1.7 · 15.8 64.9 · · · · · · · 0.257 1.03 164K 2024-12-26
93 Qwen2.5-Max Alibaba 21.13/6 56.1 1.0 · 16.1 67.2 · · · · · · · · · · 2025-01-25
94 Grok-2 xAI 19.03/6 53.8 0.7 · 11.5 63.5 · · · · · · · · · · 2024-12-12
95 Claude 3.5 Haiku Anthropic 18.95/6 38.1 0.3 · 4.3 46.4 40.6 6.7 · · · · · · · · 2024-10-22
96 Qwen Plus Alibaba 18.83/6 48.1 0.0 · 17.8 65.3 · · · · · · · 0.260 0.780 1M 2025-04-28
97 Llama 4 Scoutopen Meta AI 17.03/6 51.8 0.0 · 7.8 62.3 · · · · · · · 0.100 0.300 1.3M 2025-04-05
98 Mistral Large 2open Mistral 16.73/6 50.2 0.0 · 8.1 47.6 · · · · · · · · · · 2024-11-18
99 Gemini 1.5 Flash Google DeepMind 15.43/6 43.8 0.0 · 10.1 43.5 · · · · · · · · · · 2024-09-24
100 Claude 3.5 Sonnet (October 2024) Anthropic 12.84/6 55.3 0.0 0.0 8.5 56.9 · · · · · · · · · · 2024-10-22
101 Claude 2 Anthropic 12.53/6 34.7 · · 2.5 11.7 4.4 · · · · · · · · · 2023-07-11
102 4x Scaled Other 1/6 · · · · · 60.8 · · · · · · · · · ·
103 AI Co-Mathematician Google DeepMind 1/6 · · 75.6 · · · · · · · · · · · · 2026-05-08
104 Amazon.nova Premier v1:0 Amazon 1/6 · · · · · 42.4 · · · · · · · · · ·
105 Claude 2.1 Anthropic 2/6 33.0 · · 1.9 · · · · · · · · · · · 2023-11-21
106 Claude 3 Haiku Anthropic 2/6 36.3 · · 1.8 14.9 · · · · · · · 0.250 1.25 200K 2024-03-07
107 Claude 3 Sonnet Anthropic 2/6 40.6 · · 2.5 18.2 · · · · · · · · · · 2024-02-29
108 Claude 3.5-Sonnet-20241022 Anthropic 1/6 · · · · · 51.6 · · · · · · · · · ·
109 Claude 3.7 Sonnet w/ Review Heavy Anthropic 1/6 · · · · · 62.4 · · · · · · · · · ·
110 Co-PatcheR Other 1/6 · · · · · 46.0 · · · · · · · · · ·
111 CodeAct v2.1 (claude-3-5-sonnet-20241022) Anthropic 1/6 · · · · · 53.0 · · · · · · · · · ·
112 DBRXopen Other 1/6 32.9 · · · 11.7 · · · · · · · · · · 2024-03-27
113 DeepSeek LLM 67Bopen DeepSeek 1/6 24.6 · · · 6.4 · · · · · · · · · · 2023-11-29
114 DeepSeek V3 0324open DeepSeek 1/6 · · · · · 42.0 · · · · · · 0.270 1.12 164K ·
115 DeepSeek V3.2 Reasoner DeepSeek 1/6 · · · · · 60.0 · · · · · · · · · ·
116 DeepSeek-R1open DeepSeek 2/6 69.2 · · 53.3 93.1 · · · · · · · · · · 2025-01-20
117 DeepSeek-R1-Distill-Llama-70Bopen DeepSeek 2/6 55.7 · · 51.4 89.9 · · · · · · · · · · 2025-01-20
118 DeepSeek-R1-Distill-Qwen-14Bopen DeepSeek 1/6 44.7 · · · 87.1 · · · · · · · · · · 2025-01-20
119 DeepSWE-Preview Other 1/6 · · · · · 42.2 · · · · · · · · · ·
120 Devstral (2512) Mistral 1/6 · · · · · 53.8 · · · · · · · · · ·
121 Devstral Small (2512) Mistral 1/6 · · · · · 56.4 · · · · · · · · · ·
122 DevStral Small 2505 Mistral 1/6 · · · · · 46.8 · · · · · · · · · ·
123 DevStral Small 2507 Mistral 1/6 · · · · · 38.0 · · · · · · · · · ·
124 Doubao-Seed-Code ByteDance 1/6 · · · · · 78.8 · · · · · · · · · ·
125 Eurus-2-7B-PRIMEopen Other 1/6 33.9 · · · · · · · · · · · · · · 2024-12-31
126 Frogboss 32B 2510 Other 1/6 · · · · · 53.6 · · · · · · · · · ·
127 Frogmini 14B 2510 Other 1/6 · · · · · 45.0 · · · · · · · · · ·
128 Gemini 1.0 Pro Google DeepMind 2/6 34.0 · · 1.1 11.2 · · · · · · · · · · 2023-12-13
129 Gemini 1.5 Flash 8B Google DeepMind 2/6 33.0 · · 4.6 · · · · · · · · · · · 2024-10-03
130 Gemini 1.5 Pro Google DeepMind 2/6 51.5 · · 14.9 55.6 · · · · · · · · · · 2024-05-14
131 Gemini 2.0 Flash (Experimental) Google DeepMind 1/6 · · · · · 44.2 · · · · · · · · · ·
132 Gemini 2.0 Flash (v20241212-experimental) Google DeepMind 1/6 · · · · · 52.2 · · · · · · · · · ·
133 Gemini 2.0 Flash Thinking Google DeepMind 2/6 57.1 · · 57.8 · · · · · · · · · · · 2025-01-21
134 Gemini 2.0 Pro Google DeepMind 2/6 65.7 0.0 · · 83.5 · · · · · · · · · · 2025-02-05
135 Gemini 2.5 Deep Think Google DeepMind 2/6 · 29.0 10.4 · · · · · · · · · · · · 2025-08-01
136 Gemini 2.5 Pro Google DeepMind 1/6 · · · · · 53.6 · · · · · · 1.25 10.00 1M ·
137 Gemini 2.5 Pro (Mar 2025) Google DeepMind 1/6 83.8 · · · 95.6 · · · · · · · · · · 2025-03-31
138 Gemini 2.5 Pro (May 2025) Google DeepMind 1/6 66.7 · · · 95.9 · · · · · · · · · · 2025-05-06
139 Gemini 3 Pro Preview Google DeepMind 1/6 · · · · · 77.4 · · · · · · · · · ·
140 Gemini 3.1 Flash-Lite Google DeepMind 2/6 76.6 · · 54.1 · · · 23.0 · · · · 0.250 1.50 1M 2026-03-03
141 Gemma 2 27Bopen Google DeepMind 2/6 36.5 · · 1.4 27.9 · · · · · · · 0.650 0.650 8K 2024-06-24
142 Gemma 2 9Bopen Google DeepMind 2/6 27.5 · · 0.6 21.0 · · · · · · · · · · 2024-06-24
143 Gemma 3 27Bopen Google DeepMind 2/6 43.9 · · 22.2 74.0 · · 0.0 · · · · 0.080 0.450 262K 2025-03-12
144 GPT 5.1 Codex OpenAI 1/6 · · · · · 66.0 · · · · · · 1.25 10.00 400K ·
145 GPT 5.2 Codex OpenAI 1/6 · · · · · 72.8 · · · · · · 1.75 14.00 400K ·
146 GPT-3.5 OpenAI 1/6 · · · · · 0.4 · · · · · · · · · ·
147 GPT-3.5 Turbo OpenAI 2/6 27.6 · · 2.2 13.8 · · 0.0 · · · · 0.500 1.50 16K 2024-01-25
148 GPT-4 (1106) OpenAI 1/6 · · · · · 22.4 · · · · · · · · · ·
149 GPT-4 (Jun 2023) OpenAI 2/6 30.7 · · 1.1 23.0 · · 4.0 · · · · · · · 2023-06-13
150 GPT-4 (Mar 2023) OpenAI 2/6 35.7 · · 0.6 · · · · · · · · · · · 2023-03-14
151 GPT-4 Turbo (Apr 2024) OpenAI 2/6 46.6 · · 6.7 46.7 · · 6.0 · · · · · · · 2024-04-09
152 GPT-4 Turbo (Nov 2023) OpenAI 1/6 42.3 · · · 37.7 · · · · · · · · · · 2024-01-25
153 GPT-4.5 OpenAI 2/6 68.7 · · 37.8 78.6 · · · · · · · · · · 2025-02-27
154 GPT-4o mini OpenAI 2/6 37.7 · · 6.9 52.6 · · 0.0 · · · · 0.150 0.600 128K 2024-07-18
155 GPT-5 Pro OpenAI 2/6 · 55.8 19.5 · · · · · · · · · 15.00 120 400K 2025-10-07
156 GPT-5.2 Pro OpenAI 2/6 · 74.0 46.0 · · · · · · · · · 21.00 168 400K 2025-12-11
157 GPT-5.3 Codex OpenAI 1/6 · · · · · 74.8 · · · · · · 1.75 14.00 400K 2026-02-05
158 gpt-oss-20bopen OpenAI 2/6 46.0 · · 53.9 · · · · · · · · 0.030 0.130 131K 2025-08-05
159 Grok 4 Heavy xAI 1/6 · · 2.1 · · · · · · · · · · · · 2025-07-10
160 Hermes 2 Theta Llama-3 70Bopen Other 2/6 37.5 · · 2.5 22.7 · · · · · · · · · · 2024-06-20
161 Kimi K2 Moonshot AI 1/6 · · · · · 71.2 · · · · · · · · · ·
162 Kimi K2 Instruct Moonshot AI 1/6 · · · · · 53.4 · · · · · · · · · ·
163 Lingma SWE-GPT 72b (v0918) OpenAI 1/6 · · · · · 25.0 · · · · · · · · · ·
164 Lingma SWE-GPT 72b (v0925) OpenAI 1/6 · · · · · 28.8 · · · · · · · · · ·
165 Lingma SWE-GPT 7b (v0918) OpenAI 1/6 · · · · · 10.2 · · · · · · · · · ·
166 Lingma SWE-GPT 7b (v0925) OpenAI 1/6 · · · · · 18.2 · · · · · · · · · ·
167 Llama 2-70Bopen Meta AI 2/6 26.3 · · 0.0 3.3 · · · · · · · · · · 2023-07-18
168 Llama 3-70Bopen Meta AI 2/6 40.6 · · 4.3 22.6 · · · · · · · · · · 2024-04-18
169 Llama 3-8Bopen Meta AI 2/6 26.1 · · 0.8 6.1 · · · · · · · · · · 2024-04-18
170 Llama 3.1-405Bopen Meta AI 2/6 50.9 · · 9.7 49.8 · · · · · · · · · · 2024-07-23
171 Llama 3.1-70Bopen Meta AI 2/6 44.2 · · 3.6 36.7 · · · · · · · · · · 2024-07-23
172 Llama 3.1-8Bopen Meta AI 2/6 25.9 · · 2.5 22.9 · · · · · · · · · · 2024-07-23
173 Llama 3.2 90Bopen Meta AI 2/6 41.0 · · 2.6 39.4 · · · · · · · · · · 2024-09-24
174 Llama 3.3 70Bopen Meta AI 2/6 47.4 · · 5.1 41.6 · · · · · · · · · · 2024-12-06
175 Llama 4 Maverick Instruct Meta AI 1/6 · · · · · 21.0 · · · · · · · · · ·
176 Llama 4 Scout Instruct Meta AI 1/6 · · · · · 9.1 · · · · · · · · · ·
177 Llama3-SWE-RL-70B Meta AI 1/6 · · · · · 41.2 · · · · · · · · · ·
178 MCTS Refine 7B Other 1/6 · · · · · 23.2 · · · · · · · · · ·
179 MiniMax M2open MiniMax 1/6 · · · · · 61.0 · · · · · · 0.255 1.02 205K ·
180 MiniMax M2.5open MiniMax 1/6 · · · · · 75.8 · · · · · · 0.220 0.900 205K ·
181 MiniMax-M3open MiniMax 2/6 90.9 · · 71.1 · · · 14.0 · · · · 0.300 1.20 1M 2026-06-01
182 Ministral 3B Mistral 1/6 25.3 · · · 14.4 · · · · · · · · · · 2024-10-16
183 Ministral 8Bopen Mistral 1/6 27.1 · · · 14.9 · · · · · · · · · · 2024-10-16
184 Mistral 7Bopen Mistral 1/6 14.2 · · · 3.6 · · · · · · · · · · 2024-05-27
185 Mistral Large Mistral 2/6 38.8 · · 1.9 24.5 · · · · · · · 2.00 6.00 128K 2024-02-26
186 Mistral NeMoopen Mistral 1/6 29.9 · · · 10.8 · · · · · · · 0.019 0.030 131K 2024-07-18
187 Mistral Small 3open Mistral 2/6 45.3 · · 5.3 44.8 · · · · · · · 0.050 0.080 33K 2025-01-25
188 Mistral Small 3.1open Mistral 2/6 47.5 · · 5.8 46.8 · · · · · · · · · · 2025-03-17
189 Mixtral 8x22Bopen Mistral 1/6 34.1 · · · 24.2 · · · · · · · · · · 2024-04-17
190 Mixtral 8x7Bopen Mistral 1/6 30.2 · · · 9.6 · · · · · · · · · · 2023-12-11
191 Multiple Anthropic 1/6 · · · · · 76.8 · · · · · · · · · ·
192 phi-3-medium 14Bopen Microsoft 1/6 27.6 · · · 17.6 · · · · · · · · · · 2024-04-23
193 Phi-4open Microsoft 2/6 56.1 · · 13.8 64.9 · · · · · · · 0.070 0.140 16K 2024-12-12
194 Qwen 3.6 35B-A3Bopen Alibaba 2/6 84.3 · · 77.8 · · · 15.0 · · · · 0.150 1.00 262K 2026-04-14
195 Qwen-Turbo Alibaba 2/6 41.8 · · 6.1 56.2 · · · · · · · · · · 2024-11-01
196 Qwen1.5-32Bopen Alibaba 1/6 30.7 · · · · · · · · · · · · · · 2024-04-03
197 Qwen1.5-72Bopen Alibaba 1/6 28.8 · · · · · · · · · · · · · · 2024-02-04
198 Qwen2-72Bopen Alibaba 1/6 40.8 · · · 39.1 · · · · · · · · · · 2024-06-07
199 Qwen2.5 (7B + 72B) Alibaba 1/6 · · · · · 32.8 · · · · · · · · · ·
200 Qwen2.5 Coder 32B Instructopen Alibaba 1/6 · · · · · 38.0 · · · · · · 0.660 1.00 33K ·
201 Qwen2.5-32Bopen Alibaba 2/6 46.1 · · 7.4 56.1 · · · · · · · · · · 2024-09-17
202 Qwen2.5-72Bopen Alibaba 2/6 49.1 · · 8.1 63.2 · · · · · · · · · · 2024-09-19
203 Qwen3 235B-A22Bopen Alibaba 2/6 70.7 0.0 · · 68.9 · · · · · · · 0.455 1.82 131K 2025-04-29
204 Qwen3-Coder-30B-A3B-Instructopen Alibaba 1/6 · · · · · 60.4 · · · · · · 0.070 0.280 262K ·
205 Qwen3-Coder-480B-A35B-Instruct Alibaba 1/6 · · · · · 69.6 · · · · · · · · · ·
206 Qwen3.5 397B-A17Bopen Alibaba 2/6 86.1 · · 85.6 · · · 12.5 · · · · 0.390 2.34 262K 2026-02-13
207 Qwen3.6 27Bopen Alibaba 2/6 85.4 · · 78.9 · · · 15.5 · · · · 0.600 3.60 262K 2026-04-22
208 Qwen3.7 Flash Alibaba 2/6 81.6 · · 82.2 · · · 16.0 · · · · 0.030 0.130 1M 2026-07-27
209 Qwen3.7-Plus Alibaba 2/6 84.8 · · 86.7 · · · 16.5 · · · · 0.320 1.28 1M 2026-06-02
210 QWQ-Plus Alibaba 1/6 65.4 · · · · · · · · · · · · · · 2025-04-08
211 SWE-agent-LM-32B Alibaba 1/6 · · · · · 40.2 · · · · · · · · · ·
212 SWE-Llama 13B Meta AI 1/6 · · · · · 1.2 · · · · · · · · · ·
213 SWE-Llama 7B Meta AI 1/6 · · · · · 1.4 · · · · · · · · · ·
214 swe-search Anthropic 1/6 · · · · · 62.2 · · · · · · · · · ·
215 TTS(Bo16) OpenAI 1/6 · · · · · 58.8 · · · · · · · · · ·
216 TTS(Bo8) Alibaba 1/6 · · · · · 47.0 · · · · · · · · · ·
217 Tulu 3 (Tülu 3) 70Bopen Allen Institute 2/6 46.3 · · 4.4 42.7 · · · · · · · · · · 2024-11-21
218 Undisclosed Other 1/6 · · · · · 70.6 · · · · · · · · · ·
219 WizardLM-2 8x22Bopen Microsoft 1/6 43.4 · · · 25.7 · · · · · · · 0.620 0.620 66K 2024-04-15
220 Yi-1.5-34Bopen Other 1/6 32.0 · · · 25.5 · · · · · · · · · · 2024-05-13
221 Yi-34Bopen Other 1/6 14.7 · · · 5.1 · · · · · · · · · · 2023-11-22