deepseek-ai/DeepSeek-V4-Flash-0731
deepseek-ai/DeepSeek-V4-Flash-0731
参数量
304.2B
上下文
1024K
下载量
1M
点赞
3.2K
架构
deepseek_v4
43 layers · 1 KV heads · head 512 · hidden 4096
GPU 需求
按量化方案和使用场景估算的显存 / 内存 / 磁盘
| 量化 | 最低配置 | 推荐配置 | 生产配置 |
|---|---|---|---|
| FP1616bit | 722.3 GB RAM 1083.4 · Disk 922.9 | 770.2 GB RAM 1155.2 · Disk 948.9 | 887.5 GB RAM 1331.2 · Disk 987.9 |
| FP88bit | 363.9 GB RAM 545.8 · Disk 480.9 | 395.5 GB RAM 593.2 · Disk 506.9 | 496.5 GB RAM 744.8 · Disk 545.9 |
| INT88bit | 363.9 GB RAM 545.8 · Disk 480.9 | 395.5 GB RAM 593.2 · Disk 506.9 | 496.5 GB RAM 744.8 · Disk 545.9 |
| AWQ4bit | 191.4 GB RAM 287.1 · Disk 268.3 | 215.2 GB RAM 322.8 · Disk 294.3 | 308.4 GB RAM 462.6 · Disk 333.3 |
| GPTQ4bit | 193.7 GB RAM 290.5 · Disk 271.0 | 217.5 GB RAM 326.3 · Disk 297.0 | 310.8 GB RAM 466.3 · Disk 336.0 |
| GGUF4bit | 198.2 GB RAM 297.2 · Disk 276.5 | 222.2 GB RAM 333.3 · Disk 302.5 | 315.7 GB RAM 473.6 · Disk 341.5 |
GPU 推荐
Best ValueBEST
8× H200 SXM
1128 GB VRAM
$20,440/月
≈ 104.5 tok/s
可用生产吞吐 ≈ 73.1 tok/s
score 0.2706
Performance
4× H200 SXM
564 GB VRAM
$10,220/月
≈ 78.4 tok/s
可用生产吞吐 ≈ 54.9 tok/s
score 0.3711
Min Complexity
2× H200 SXM
282 GB VRAM
$5,110/月
≈ 52.3 tok/s
可用生产吞吐 ≈ 36.6 tok/s
score 0.5924
💬 社区 —— 真实部署经验
0 文章 · 0 实测