全部/科技/性能 · 延迟

OpenRouter · 性能 · 延迟

22分钟前更新

HISTORY近 30 天历史柱高表示当天去重热搜数量

11306 11807 11408 11509 12110 11511 11712 10913 11514 11615 11616 12017 12018 11819 11420 11621 11022 11523 11224 11825 11626 11127 11428 11129 11730 11931 11601 11702 11703 113今天

10/06—11/04 有历史数据

01
LiquidAI: LFM2.5-2.6B
P50 吞吐 383 tok/s · P50 延迟 140 ms · 最佳服务商 Liquid · 10.9万次请求liquid
02
Sao10K: Llama 3 8B Lunaris
P50 吞吐 98 tok/s · P50 延迟 142 ms · 最佳服务商 DeepInfra · 25.3万次请求sao10k
03
Google: Gemma 4 31B
P50 吞吐 176 tok/s · P50 延迟 154 ms · 最佳服务商 ModelRun · 1423.5万次请求google
04
Mistral: Mistral Small 4
P50 吞吐 140 tok/s · P50 延迟 154 ms · 最佳服务商 Mistral · 50.1万次请求mistralai
05
Meta: Llama 3.3 70B Instruct
P50 吞吐 212 tok/s · P50 延迟 162 ms · 最佳服务商 CoreWeave · 279.0万次请求meta-llama
06
OpenAI: gpt-oss-120b
P50 吞吐 772 tok/s · P50 延迟 169 ms · 最佳服务商 BaseTen · 1290.5万次请求openai
07
NVIDIA: Nemotron 3 Super
P50 吞吐 108 tok/s · P50 延迟 176 ms · 最佳服务商 Crusoe · 29.9万次请求nvidia
08
OpenAI: gpt-oss-safeguard-20b
P50 吞吐 545 tok/s · P50 延迟 180 ms · 最佳服务商 Groq · 31.5万次请求openai
09
OpenAI: gpt-oss-20b
P50 吞吐 375 tok/s · P50 延迟 197 ms · 最佳服务商 CoreWeave · 636.6万次请求openai
10
Thinking Machines: Inkling
P50 吞吐 98 tok/s · P50 延迟 223 ms · 最佳服务商 Together · 66.9万次请求thinkingmachines
11
Anthropic: Claude Haiku 4.5
P50 吞吐 140 tok/s · P50 延迟 227 ms · 最佳服务商 Google · 401.6万次请求anthropic
12
Qwen: Qwen3.5-9B
P50 吞吐 91 tok/s · P50 延迟 233 ms · 最佳服务商 Parasail · 362.3万次请求qwen
13
IBM: Granite 4.2 8B
P50 吞吐 57 tok/s · P50 延迟 237 ms · 最佳服务商 CoreWeave · 13.2万次请求ibm-granite
14
Meta: Llama 3.1 8B Instruct
P50 吞吐 365 tok/s · P50 延迟 247 ms · 最佳服务商 CoreWeave · 555.7万次请求meta-llama
15
Z.ai: GLM 5.3 Flash
P50 吞吐 157 tok/s · P50 延迟 247.5 ms · 最佳服务商 Friendli · 5339.5万次请求z-ai
16
DeepSeek: DeepSeek V4.1 Flash 1017
P50 吞吐 223 tok/s · P50 延迟 248 ms · 最佳服务商 Together · 1.57亿次请求deepseek
17
DeepSeek: DeepSeek V3.1
P50 吞吐 81 tok/s · P50 延迟 251 ms · 最佳服务商 CoreWeave · 259.1万次请求deepseek
18
Inception: Mercury 2
P50 吞吐 347 tok/s · P50 延迟 252 ms · 最佳服务商 Inception · 10.9万次请求inception
19
Google: Gemma 4 26B A4B
P50 吞吐 116 tok/s · P50 延迟 257 ms · 最佳服务商 CoreWeave · 2240.5万次请求google
20
DeepSeek: DeepSeek V4.1 Flash
P50 吞吐 220.5 tok/s · P50 延迟 261 ms · 最佳服务商 Together · 8306.5万次请求deepseek
21
DeepSeek: DeepSeek V4 Pro 0813
P50 吞吐 103 tok/s · P50 延迟 267 ms · 最佳服务商 Wafer · 626.5万次请求deepseek
22
Qwen: Qwen3 30B A3B Instruct 2507
P50 吞吐 137 tok/s · P50 延迟 269 ms · 最佳服务商 Nebius · 175.8万次请求qwen
23
NVIDIA: Nemotron 3 Ultra
P50 吞吐 92.5 tok/s · P50 延迟 273 ms · 最佳服务商 BaseTen · 542.3万次请求nvidia
24
Z.ai: GLM 5.1
P50 吞吐 113 tok/s · P50 延迟 273 ms · 最佳服务商 Friendli · 41.4万次请求z-ai
25
NVIDIA: Nemotron 3.5 Lightning
P50 吞吐 361 tok/s · P50 延迟 277 ms · 最佳服务商 CoreWeave · 301.9万次请求nvidia
26
MoonshotAI: Kimi K2.6
P50 吞吐 75 tok/s · P50 延迟 279 ms · 最佳服务商 Crusoe · 104.4万次请求moonshotai
27
DeepSeek: DeepSeek V4 Flash 0423
P50 吞吐 147 tok/s · P50 延迟 285 ms · 最佳服务商 Wafer · 4606.8万次请求deepseek
28
DeepSeek: DeepSeek V4 Flash 0731
P50 吞吐 148 tok/s · P50 延迟 288 ms · 最佳服务商 Wafer · 5205.7万次请求deepseek
29
Qwen: Qwen3.8 27B
P50 吞吐 396 tok/s · P50 延迟 294 ms · 最佳服务商 ModelRun · 492.8万次请求qwen
30
Reflection: Beam 1.0 501B A23B
P50 吞吐 427 tok/s · P50 延迟 297 ms · 最佳服务商 BaseTen · 13.9万次请求reflection
31
Mistral: Ministral 3 3B 2512
P50 吞吐 111 tok/s · P50 延迟 322 ms · 最佳服务商 Mistral · 76.2万次请求mistralai
32
Amazon: Nova Micro 1.0
P50 吞吐 208 tok/s · P50 延迟 327 ms · 最佳服务商 Amazon Bedrock · 100.2万次请求amazon
33
Qwen: Qwen2.5 7B Instruct
P50 吞吐 108 tok/s · P50 延迟 327 ms · 最佳服务商 Phala · 43.0万次请求qwen
34
Mistral: Mistral Small 3
P50 吞吐 47 tok/s · P50 延迟 328 ms · 最佳服务商 DeepInfra · 53.4万次请求mistralai
35
Meta: Llama 4 Maverick
P50 吞吐 85 tok/s · P50 延迟 332 ms · 最佳服务商 Parasail · 138.8万次请求meta-llama
36
Z.ai: GLM 5.3
P50 吞吐 174 tok/s · P50 延迟 333 ms · 最佳服务商 Friendli · 1072.5万次请求z-ai
37
MiniMax: MiniMax M2.7
P50 吞吐 275 tok/s · P50 延迟 334 ms · 最佳服务商 Groq · 29.3万次请求minimax
38
NVIDIA: Nemotron 3.5 Super VL
P50 吞吐 213 tok/s · P50 延迟 338 ms · 最佳服务商 Together · 498.6万次请求nvidia
39
Z.ai: GLM 5.2
P50 吞吐 200 tok/s · P50 延迟 346 ms · 最佳服务商 Together · 441.5万次请求z-ai
40
Google: Gemma 2 27B
P50 吞吐 29 tok/s · P50 延迟 346 ms · 最佳服务商 NextBit · 36.1万次请求google
41
Mistral: Mistral Nemo
P50 吞吐 99 tok/s · P50 延迟 360 ms · 最佳服务商 Io Net · 1714.4万次请求mistralai
42
Meta: Muse Spark Open
P50 吞吐 207 tok/s · P50 延迟 364 ms · 最佳服务商 BaseTen · 33.0万次请求meta
43
Google: Gemini 2.5 Flash Lite
P50 吞吐 271 tok/s · P50 延迟 372 ms · 最佳服务商 Google AI Studio · 2094.2万次请求google
44
Z.ai: GLM 4.7 Flash
P50 吞吐 52 tok/s · P50 延迟 382 ms · 最佳服务商 Cloudflare · 102.2万次请求z-ai
45
Qwen: Qwen3 32B
P50 吞吐 31 tok/s · P50 延迟 383 ms · 最佳服务商 DeepInfra · 246.0万次请求qwen
46
Meta: Llama Guard 4 12B
P50 吞吐 10 tok/s · P50 延迟 392 ms · 最佳服务商 DeepInfra · 34.8万次请求meta-llama
47
Qwen2.5 72B Instruct
P50 吞吐 27 tok/s · P50 延迟 413 ms · 最佳服务商 DeepInfra · 17.5万次请求qwen
48
Mistral: Ministral 3 8B 2512
P50 吞吐 67 tok/s · P50 延迟 421.5 ms · 最佳服务商 Mistral · 29.6万次请求mistralai
49
Mistral: Mistral Small 3.2 24B
P50 吞吐 110 tok/s · P50 延迟 431 ms · 最佳服务商 DeepInfra · 163.6万次请求mistralai
50
ByteDance Seed: Seed-2.0-Mini
P50 吞吐 70 tok/s · P50 延迟 436 ms · 最佳服务商 Seed · 26.8万次请求bytedance-seed
51
MiniMax: MiniMax M3.1 Flash
P50 吞吐 185 tok/s · P50 延迟 445 ms · 最佳服务商 InferenceNet · 1008.7万次请求minimax
52
Qwen: Qwen3 Coder Next
P50 吞吐 63 tok/s · P50 延迟 445 ms · 最佳服务商 Parasail · 36.1万次请求qwen
53
MiniMax: MiniMax M3
P50 吞吐 129 tok/s · P50 延迟 451 ms · 最佳服务商 CoreWeave · 118.7万次请求minimax
54
Qwen: Qwen3 Next 80B A3B Instruct
P50 吞吐 112 tok/s · P50 延迟 452 ms · 最佳服务商 Parasail · 22.4万次请求qwen
55
inclusionAI: Ling 3.0 Flash
P50 吞吐 147 tok/s · P50 延迟 459 ms · 最佳服务商 DeepInfra · 343.7万次请求inclusionai
56
Anthropic: Claude Opus 4.7
P50 吞吐 91 tok/s · P50 延迟 471 ms · 最佳服务商 Google · 10.2万次请求anthropic
57
Qwen: Qwen3 235B A22B Instruct 2507
P50 吞吐 36 tok/s · P50 延迟 475 ms · 最佳服务商 Parasail · 296.7万次请求qwen
58
Microsoft: Phi 4
P50 吞吐 71 tok/s · P50 延迟 481 ms · 最佳服务商 DeepInfra · 15.5万次请求microsoft
59
Google: Gemini 3.1 Flash Lite Preview
P50 吞吐 129 tok/s · P50 延迟 484 ms · 最佳服务商 Google AI Studio · 413.5万次请求google
60
Qwen: Qwen3.5-35B-A3B
P50 吞吐 86 tok/s · P50 延迟 503 ms · 最佳服务商 DeepInfra · 106.7万次请求qwen
61
Mistral: Mistral Medium 3.5
P50 吞吐 121 tok/s · P50 延迟 504 ms · 最佳服务商 Mistral · 15.2万次请求mistralai
62
NVIDIA: Nemotron 3 Nano Omni
P50 吞吐 92 tok/s · P50 延迟 508.5 ms · 最佳服务商 Nvidia · 59.3万次请求nvidia
63
Qwen: Qwen3.6 35B A3B
P50 吞吐 105 tok/s · P50 延迟 511.5 ms · 最佳服务商 DeepInfra · 350.2万次请求qwen
64
ScaleDown: Summarize
P50 吞吐 132 tok/s · P50 延迟 517 ms · 最佳服务商 ScaleDown · 63.1万次请求scaledown
65
Meta: Llama 3.1 70B Instruct
P50 吞吐 68 tok/s · P50 延迟 524 ms · 最佳服务商 Amazon Bedrock · 35.3万次请求meta-llama
66
Qwen: Qwen3.5-Flash
P50 吞吐 88 tok/s · P50 延迟 526 ms · 最佳服务商 Alibaba · 367.5万次请求qwen
67
Qwen: Qwen3.5-27B
P50 吞吐 53 tok/s · P50 延迟 529 ms · 最佳服务商 DeepInfra · 14.4万次请求qwen
68
Qwen: Qwen3.6 27B
P50 吞吐 62 tok/s · P50 延迟 531 ms · 最佳服务商 Venice · 31.2万次请求qwen
69
Google: Gemini 2.5 Flash
P50 吞吐 120 tok/s · P50 延迟 539 ms · 最佳服务商 Google AI Studio · 1171.9万次请求google
70
Reka Edge
P50 吞吐 104.5 tok/s · P50 延迟 542.5 ms · 最佳服务商 Reka · 12.0万次请求rekaai
71
Meta: Llama 4 Scout
P50 吞吐 116 tok/s · P50 延迟 547 ms · 最佳服务商 DeepInfra · 144.0万次请求meta-llama
72
OpenAI: GPT-5.6 Luna
P50 吞吐 116 tok/s · P50 延迟 553 ms · 最佳服务商 Amazon Bedrock · 1716.0万次请求openai
73
Anthropic: Claude Opus 4.8
P50 吞吐 162 tok/s · P50 延迟 568 ms · 最佳服务商 Google · 111.2万次请求anthropic
74
Meta: Muse Glimmer 30B
P50 吞吐 77 tok/s · P50 延迟 569 ms · 最佳服务商 DeepInfra · 66.1万次请求meta
75
Qwen: Qwen3 14B
P50 吞吐 58 tok/s · P50 延迟 574 ms · 最佳服务商 DeepInfra · 17.0万次请求qwen
76
Mistral: Ministral 3 14B 2512
P50 吞吐 66 tok/s · P50 延迟 576 ms · 最佳服务商 Mistral · 15.7万次请求mistralai
77
Qwen: Qwen3.5 397B A17B
P50 吞吐 91 tok/s · P50 延迟 580 ms · 最佳服务商 DeepInfra · 43.6万次请求qwen
78
OpenAI: GPT-4o-mini
P50 吞吐 71 tok/s · P50 延迟 580 ms · 最佳服务商 OpenAI · 1265.5万次请求openai
79
Qwen: Qwen3.6 Flash
P50 吞吐 73 tok/s · P50 延迟 582 ms · 最佳服务商 Alibaba · 25.0万次请求qwen
80
Qwen: Qwen3 VL 30B A3B Instruct
P50 吞吐 28 tok/s · P50 延迟 583 ms · 最佳服务商 DeepInfra · 138.2万次请求qwen
81
SpaceXAI: Grok 4.20
P50 吞吐 95 tok/s · P50 延迟 591.5 ms · 最佳服务商 xAI · 54.7万次请求x-ai
82
ByteDance Seed: Seed 1.6 Flash
P50 吞吐 58 tok/s · P50 延迟 593 ms · 最佳服务商 Seed · 33.0万次请求bytedance-seed
83
Google: Gemma 3 27B
P50 吞吐 35 tok/s · P50 延迟 594 ms · 最佳服务商 NextBit · 143.1万次请求google
84
OpenAI: GPT-4o (2024-11-20)
P50 吞吐 86 tok/s · P50 延迟 597 ms · 最佳服务商 OpenAI · 10.3万次请求openai
85
Anthropic: Claude Sonnet 4.6
P50 吞吐 89 tok/s · P50 延迟 602 ms · 最佳服务商 Google · 230.4万次请求anthropic
86
Thinking Machines: Inkling Small
P50 吞吐 72 tok/s · P50 延迟 612 ms · 最佳服务商 DeepInfra · 55.3万次请求thinkingmachines
87
Mistral: Mistral Medium 3.1
P50 吞吐 114 tok/s · P50 延迟 616.5 ms · 最佳服务商 Mistral · 15.4万次请求mistralai
88
Google: Gemini 3.1 Flash Lite
P50 吞吐 156 tok/s · P50 延迟 621 ms · 最佳服务商 Google AI Studio · 1849.6万次请求google
89
Cohere: North Mini Code
P50 吞吐 66 tok/s · P50 延迟 622 ms · 最佳服务商 Cohere · 101.6万次请求cohere
90
OpenAI: GPT-4o-mini (2024-07-18)
P50 吞吐 71 tok/s · P50 延迟 626 ms · 最佳服务商 OpenAI · 64.0万次请求openai
91
inclusionAI: Ling 3.0 Flash VL
P50 吞吐 42 tok/s · P50 延迟 630 ms · 最佳服务商 DeepInfra · 12.1万次请求inclusionai
92
DeepSeek: DeepSeek V4 Pro 0423
P50 吞吐 86 tok/s · P50 延迟 634 ms · 最佳服务商 Crusoe · 331.6万次请求deepseek
93
Qwen: Qwen3.5-122B-A10B
P50 吞吐 112 tok/s · P50 延迟 635 ms · 最佳服务商 Alibaba · 13.5万次请求qwen
94
Anthropic: Claude Haiku 5.5
P50 吞吐 170 tok/s · P50 延迟 639.5 ms · 最佳服务商 Azure · 3004.6万次请求anthropic
95
OpenAI: GPT-4o
P50 吞吐 75 tok/s · P50 延迟 650.5 ms · 最佳服务商 OpenAI · 97.6万次请求openai
96
MoonshotAI: Kimi K2.5
P50 吞吐 83 tok/s · P50 延迟 653 ms · 最佳服务商 AtlasCloud · 22.0万次请求moonshotai
97
Z.ai: GLM 5
P50 吞吐 113 tok/s · P50 延迟 654 ms · 最佳服务商 Amazon Bedrock · 29.5万次请求z-ai
98
Upstage: Solar Pro 4
P50 吞吐 48 tok/s · P50 延迟 658.5 ms · 最佳服务商 Upstage · 253.9万次请求upstage
99
Qwen: Qwen3 VL 8B Instruct
P50 吞吐 33 tok/s · P50 延迟 659 ms · 最佳服务商 Parasail · 36.5万次请求qwen
100
OpenAI: GPT-5.6 Sol
P50 吞吐 167 tok/s · P50 延迟 661 ms · 最佳服务商 Amazon Bedrock · 409.4万次请求openai