阿里云轻量 2核2G 38元/年起 · 新客秒杀限量 去看看

能跑什么模型/DeepSeek

DeepSeek-V4-Flash 需要多少显存:哪些显卡能跑

284B(13B 激活) 参数(MoE,显存按总参数算),最大上下文 1,048,576 token。 下表按 8192 上下文、单并发、20% 预留估算三档精度的显存需求,以及 12 张显卡各自需要几张。

三档精度的显存需求

精度权重KV Cache(8192)含 20% 预留合计最小够用的单卡
FP16 / BF16581.9 GB结构特殊,本站不估算698.3 GB单卡放不下
FP8 / INT8290.9 GB结构特殊,本站不估算349.1 GB单卡放不下
INT4(4-bit 量化)145.5 GB结构特殊,本站不估算174.6 GB单卡放不下

官方模型卡:284B 总参数、13B 激活、1M 上下文、FP4+FP8 混合精度;仓库权重文件合计约 159.6 GB。官方称其为预览版,规格以模型卡为准

该模型的官方仓库是 FP8 / FP4 混合存储(文件合计 159.6 GB), 上表按「参数量 × 每参数字节数」换算到 FP16 / INT8 / INT4,两者不可直接对比: 直接用官方权重时显存占用接近 159.6 GB,用社区 4-bit 量化版时按 INT4 那一行估算。

12 张显卡分别能不能跑

显卡显存结论INT4 需求所需卡数
RTX 309024 GB需要 8 张卡(建议 8 卡机)174.6 GB8 张
RTX 409024 GB需要 8 张卡(建议 8 卡机)174.6 GB8 张
RTX 509032 GB需要 6 张卡(建议 8 卡机)174.6 GB6 张
RTX A600048 GB单卡放不下,INT4 需 4 张174.6 GB4 张
L40S48 GB单卡放不下,INT4 需 4 张174.6 GB4 张
A1024 GB需要 8 张卡(建议 8 卡机)174.6 GB8 张
L424 GB需要 8 张卡(建议 8 卡机)174.6 GB8 张
T416 GB不适合单机:INT4 也需 11 张卡174.6 GB11 张
A100 40GB40 GB需要 5 张卡(建议 8 卡机)174.6 GB5 张
A100 80GB80 GB单卡放不下,INT4 需 3 张174.6 GB3 张
H100 80GB80 GB单卡放不下,INT4 需 3 张174.6 GB3 张
H200141 GB单卡放不下,INT4 需 2 张174.6 GB2 张

点显卡名进入逐卡详情:三档精度的数字、该卡在售租用价、以及同卡还能跑哪些模型。

同族其它模型

常见问题

DeepSeek-V4-Flash 最低需要多少显存?

按 8192 上下文、单并发、20% 预留估算:FP16 需 698.3 GB,INT8 需 349.1 GB,INT4 需 174.6 GB。上下文越长,KV Cache 越大,需求还会上升。

DeepSeek-V4-Flash 单卡能跑吗?

INT4 量化下 单卡放不下 即可单卡运行;FP16 则至少需要 单卡放不下。多卡需要框架支持张量并行。

上下文从 8192 加到 32768,显存会多多少?

该模型注意力结构特殊(MoE + 非标准注意力),本站不按标准公式估算 KV Cache,建议参考官方模型卡。