Kimi-K2-0905
moonshotai/Kimi-K2-0905
月之暗面 1T MoE 智能体模型，256K 上下文。
参数量
1000B
上下文
256K
下载量
280K
点赞
2.4K
架构
llama
GPU 需求
按量化方案和使用场景估算的显存 / 内存 / 磁盘
| 量化 | 最低配置 | 推荐配置 | 生产配置 |
|---|---|---|---|
| FP1616bit | 2361.2 GB RAM 3541.8 · Disk 2944.7 | 2484.1 GB RAM 3726.1 · Disk 2970.7 | 2688.1 GB RAM 4032.1 · Disk 3009.7 |
| FP88bit | 1183.1 GB RAM 1774.6 · Disk 1491.9 | 1252.4 GB RAM 1878.6 · Disk 1517.9 | 1402.8 GB RAM 2104.2 · Disk 1556.9 |
| INT88bit | 1183.1 GB RAM 1774.6 · Disk 1491.9 | 1252.4 GB RAM 1878.6 · Disk 1517.9 | 1402.8 GB RAM 2104.2 · Disk 1556.9 |
| AWQ4bit | 616.1 GB RAM 924.2 · Disk 792.7 | 659.6 GB RAM 989.5 · Disk 818.7 | 784.3 GB RAM 1176.5 · Disk 857.7 |
| GPTQ4bit | 623.5 GB RAM 935.2 · Disk 801.8 | 667.3 GB RAM 1001.0 · Disk 827.8 | 792.3 GB RAM 1188.5 · Disk 866.8 |
| GGUF4bit | 638.2 GB RAM 957.3 · Disk 819.9 | 682.7 GB RAM 1024.1 · Disk 845.9 | 808.4 GB RAM 1212.6 · Disk 884.9 |
GPU 推荐
Best ValueBEST
8× H200 SXM
1128 GB VRAM
$20,440/月
≈ 31.8 tok/s
可用生产吞吐 ≈ 22.3 tok/s
score 0.3757
Cheapest
4× B200
720 GB VRAM
$12,051/月
≈ 0 tok/s (N/A — benchmark unavailable)
可用生产吞吐 ≈ 0 tok/s
score 0.3057
Performance
8× H200 SXM
1128 GB VRAM
$20,440/月
≈ 31.8 tok/s
可用生产吞吐 ≈ 22.3 tok/s
score 0.3757
Min Complexity
4× B200
720 GB VRAM
$12,051/月
≈ 0 tok/s (N/A — benchmark unavailable)
可用生产吞吐 ≈ 0 tok/s
score 0.3057
💬 社区 —— 真实部署经验
0 文章 · 0 实测