Qwen3-Coder 480B
Qwen/Qwen3-Coder-480B-A35B-Instruct
参数量
480B
上下文
256K
下载量
88.7K
点赞
1.4K
架构
moe_transformer
GPU 需求
按量化方案和使用场景估算的显存 / 内存 / 磁盘
| 量化 | 最低配置 | 推荐配置 | 生产配置 |
|---|---|---|---|
| FP1616bit | 1136.0 GB RAM 1703.9 · Disk 1433.8 | 1203.1 GB RAM 1804.7 · Disk 1459.8 | 1351.4 GB RAM 2027.1 · Disk 1498.8 |
| FP88bit | 570.5 GB RAM 855.7 · Disk 736.4 | 611.9 GB RAM 917.9 · Disk 762.4 | 734.5 GB RAM 1101.8 · Disk 801.4 |
| INT88bit | 570.5 GB RAM 855.7 · Disk 736.4 | 611.9 GB RAM 917.9 · Disk 762.4 | 734.5 GB RAM 1101.8 · Disk 801.4 |
| AWQ4bit | 298.3 GB RAM 447.5 · Disk 400.8 | 327.4 GB RAM 491.1 · Disk 426.8 | 437.6 GB RAM 656.4 · Disk 465.8 |
| GPTQ4bit | 301.8 GB RAM 452.8 · Disk 405.1 | 331.1 GB RAM 496.6 · Disk 431.1 | 441.5 GB RAM 662.2 · Disk 470.1 |
| GGUF4bit | 308.9 GB RAM 463.4 · Disk 413.8 | 338.5 GB RAM 507.7 · Disk 439.8 | 449.2 GB RAM 673.8 · Disk 478.8 |
GPU 推荐
Best ValueBEST
8× H200 SXM
1128 GB VRAM
$20,440/月
≈ 66.2 tok/s
可用生产吞吐 ≈ 46.3 tok/s
score 0.2971
Performance
4× H200 SXM
564 GB VRAM
$10,220/月
≈ 49.7 tok/s
可用生产吞吐 ≈ 34.8 tok/s
score 0.4242
Min Complexity
2× B200
360 GB VRAM
$6,026/月
≈ 0 tok/s (N/A — benchmark unavailable)
可用生产吞吐 ≈ 0 tok/s
score 0.4795
💬 社区 —— 真实部署经验
0 文章 · 0 实测