AudioYi

openai/whisper-large-v3-turbo

参数量

808.9M

上下文

—

下载量

7.9M

3.2K

架构

whisper

32 layers

在 HuggingFace 查看

GPU 需求

按量化方案和使用场景估算的显存 / 内存 / 磁盘

量化	最低配置	推荐配置	生产配置
FP1616bit	6.4 GB RAM 32.0 · Disk 41.4	7.3 GB RAM 32.0 · Disk 67.4	8.8 GB RAM 32.0 · Disk 106.4
FP88bit	4.6 GB RAM 32.0 · Disk 40.2	5.4 GB RAM 32.0 · Disk 66.2	6.8 GB RAM 32.0 · Disk 105.2
INT88bit	4.6 GB RAM 32.0 · Disk 40.2	5.4 GB RAM 32.0 · Disk 66.2	6.8 GB RAM 32.0 · Disk 105.2
AWQ4bit	3.7 GB RAM 32.0 · Disk 39.6	4.4 GB RAM 32.0 · Disk 65.6	5.8 GB RAM 32.0 · Disk 104.6
GPTQ4bit	3.7 GB RAM 32.0 · Disk 39.6	4.5 GB RAM 32.0 · Disk 65.6	5.8 GB RAM 32.0 · Disk 104.6
GGUF4bit	3.7 GB RAM 32.0 · Disk 39.6	4.5 GB RAM 32.0 · Disk 65.6	5.9 GB RAM 32.0 · Disk 104.6

GPU 推荐

Best ValueBEST

1× RTX 5080

16 GB VRAM

$90.6/月

≈ RTF 0.37

可用生产吞吐 ≈ 0.3 RTF

score 0.569

Deploy on vast ↗

Cheapest

1× RTX 5060 Ti

8 GB VRAM

$39.7/月

≈ RTF 0.79

可用生产吞吐 ≈ 0.6 RTF

score 0.6404

Deploy on vast ↗

Performance

8× RTX 4090

192 GB VRAM

$792/月

≈ RTF 0.11

可用生产吞吐 ≈ 0.1 RTF

score 0.3665

Deploy on vast ↗

Min Complexity

1× RTX 5070

12 GB VRAM

$75.2/月

≈ RTF 0.52

可用生产吞吐 ≈ 0.4 RTF

score 0.5919

Deploy on vast ↗

💬 社区 —— 真实部署经验

0 文章 · 0 实测

进入社区 →

单卡可运行的 GPU

RTX 5060 Ti

8 GB VRAM

$39.7

/月 · vast

RTX 4070S Ti

16 GB VRAM

$49.5

/月 · vast

RTX 4080S

16 GB VRAM

$50.0

/月 · vast

RTX 5070

12 GB VRAM

$75.2

/月 · vast

RTX 3090

24 GB VRAM

$76.5

/月 · vast