LLMDeepSeek
deepseek-ai/DeepSeek-R1
deepseek-ai/DeepSeek-R1
推理强化 MoE 大模型，总参数量 671B（激活 37B），思维链推理能力领先。
参数量
38.5B
上下文
160K
下载量
8M
点赞
13.6K
架构
deepseek_v3
61 layers · 128 KV heads · head 56 · hidden 7168
GPU 需求
按量化方案和使用场景估算的显存 / 内存 / 磁盘
| 量化 | 最低配置 | 推荐配置 | 生产配置 |
|---|---|---|---|
| FP1616bit | 1586.0 GB RAM 2379.0 · Disk 1988.7 | 1673.6 GB RAM 2510.4 · Disk 2014.7 | 1842.4 GB RAM 2763.6 · Disk 2053.7 |
| FP88bit | 795.5 GB RAM 1193.2 · Disk 1013.9 | 847.2 GB RAM 1270.7 · Disk 1039.9 | 980.0 GB RAM 1470.0 · Disk 1078.9 |
| INT88bit | 795.5 GB RAM 1193.2 · Disk 1013.9 | 847.2 GB RAM 1270.7 · Disk 1039.9 | 980.0 GB RAM 1470.0 · Disk 1078.9 |
| AWQ4bit | 415.0 GB RAM 622.6 · Disk 544.7 | 449.4 GB RAM 674.1 · Disk 570.7 | 565.0 GB RAM 847.4 · Disk 609.7 |
| GPTQ4bit | 420.0 GB RAM 630.0 · Disk 550.8 | 454.6 GB RAM 681.9 · Disk 576.8 | 570.4 GB RAM 855.5 · Disk 615.8 |
| GGUF4bit | 429.9 GB RAM 644.8 · Disk 563.0 | 464.9 GB RAM 697.4 · Disk 589.0 | 581.1 GB RAM 871.7 · Disk 628.0 |
GPU 推荐
Best ValueBEST
8× H200 SXM
1128 GB VRAM
$20,440/月
≈ 47.4 tok/s
可用生产吞吐 ≈ 33.2 tok/s
score 0.326
Cheapest
8× A100 80GB
640 GB VRAM
$7,008/月
≈ 20.1 tok/s
可用生产吞吐 ≈ 14.1 tok/s
score 0.4479
Performance
4× H200 SXM
564 GB VRAM
$10,220/月
≈ 35.5 tok/s
可用生产吞吐 ≈ 24.8 tok/s
score 0.4569
Min Complexity
4× H200 SXM
564 GB VRAM
$10,220/月
≈ 35.5 tok/s
可用生产吞吐 ≈ 24.8 tok/s
score 0.4569
💬 社区 —— 真实部署经验
0 文章 · 0 实测