OCR / VisionMIT
Command A+
CohereLabs/command-a-plus-05-2026-bf16
参数量
218B
上下文
200K
下载量
86.7K
点赞
141
架构
moe_transformer
GPU 需求
按量化方案和使用场景估算的显存 / 内存 / 磁盘
| 量化 | 最低配置 | 推荐配置 | 生产配置 |
|---|---|---|---|
| FP1616bit | 517.2 GB RAM 775.9 · Disk 672.5 | 542.8 GB RAM 814.1 · Disk 698.5 | 582.0 GB RAM 872.9 · Disk 737.5 |
| FP88bit | 260.4 GB RAM 390.6 · Disk 355.7 | 274.3 GB RAM 411.4 · Disk 381.7 | 301.8 GB RAM 452.7 · Disk 420.7 |
| INT88bit | 260.4 GB RAM 390.6 · Disk 355.7 | 274.3 GB RAM 411.4 · Disk 381.7 | 301.8 GB RAM 452.7 · Disk 420.7 |
| AWQ4bit | 136.8 GB RAM 205.2 · Disk 203.3 | 145.0 GB RAM 217.6 · Disk 229.3 | 166.9 GB RAM 250.4 · Disk 268.3 |
| GPTQ4bit | 138.4 GB RAM 207.6 · Disk 205.3 | 146.7 GB RAM 220.1 · Disk 231.3 | 168.7 GB RAM 253.0 · Disk 270.3 |
| GGUF4bit | 141.6 GB RAM 212.4 · Disk 209.2 | 150.1 GB RAM 225.1 · Disk 235.2 | 172.2 GB RAM 258.3 · Disk 274.2 |
GPU 推荐
Best ValueBEST
1× B200
180 GB VRAM
$3,013/月
≈ 0 tok/s (N/A — benchmark unavailable)
可用生产吞吐 ≈ 0 tok/s
score 0.6124
Performance
8× H200 SXM
1128 GB VRAM
$20,440/月
≈ 145.8 tok/s
可用生产吞吐 ≈ 102.1 tok/s
score 0.2197
Min Complexity
2× A100 80GB
160 GB VRAM
$1,752/月
≈ 31 tok/s
可用生产吞吐 ≈ 21.7 tok/s
score 0.5926
💬 社区 —— 真实部署经验
0 文章 · 0 实测
单卡可运行的 GPU
B200
180 GB VRAM
$3,013
/月 · vast
B200 SXM
180 GB VRAM
—