模型下载（GGUF）
每个构件一行：模型本体，以及各家族需要与之搭配的配套文件——投影器、VAE、文本编码器、第二专家、推测解码草稿模型。
嵌入模型： Snowflake Arctic Embed L v2.0、MiniLM，以及支持文本与可选图像/音频/视频输入的 EmbeddingGemma 2。通过 --embeddings 提供兼容 OpenAI/Ollama 的向量 API；后端支持依模型而定。模型、API 与验证范围 →
模型下载（GGUF）
| 架构 | 模型 | 下载 | |
|---|---|---|---|
嵌入编码器（bert / XLM-R） | Snowflake Arctic Embed L v2.0，Q8_0（1024 维） | fisher046/snowflake-arctic-embed-l-v2.0-Q8_0-GGUF 中的 snowflake-arctic-embed-l-v2.0-q8_0.gguf，约 635 MB；用 --embeddings 提供服务。固定版本与校验和见嵌入指南 | |
嵌入编码器（bert） | all-MiniLM-L6-v2，Q8_0（384 维） | second-state/All-MiniLM-L6-v2-Embedding-GGUF 中的 all-MiniLM-L6-v2-Q8_0.gguf，约 25 MB；用 --embeddings 提供服务 | |
EmbeddingGemma 2（gemma-embedding2） | Q8_0 / BF16，768 维 | unsloth/embeddinggemma-2-GGUF：embeddinggemma-2-Q8_0.gguf；可选 mmproj-Q8_0.gguf 用于图像/音频/视频。固定校验文本配方：config/embeddinggemma2.json。契约与验证 → | |
| LTX 2.5 Distilled | Q4_K_M 去噪器 + 四个 BF16 伴随文件 | config/ltx-2.5-distilled.json 固定五文件提交/校验，共 44,764,412,884 字节：Abiray 去噪器与官方伴随文件（需许可与 HF 令牌）。专用文本编码器、卷积视频 VAE、音频 VAE 与必需的 2 倍潜变量放大器。运行与限制 → | |
| DeepSeek V4.1 | DeepSeek-V4.1-Flash (deepseek41) | smalinin/DeepSeek-V4.1-Flash-GGUF @ d1de55c；修复后的 Q2_K-Q5/：十个分片、312.349 GiB；保留全部文件，--model 指向 DeepSeek-V4.1-Flash-EngramQ5-Q2_K-00001-of-00010.gguf。含 F32 mHC 矩阵、BF16 Engram 门与 Q5_K Engram 表，无需独立 Engram 文件。可选 eng/dsv41-prepare-vision.py 提供图像/视频条件。ggml_cuda 为服务路径，支持本地按层切分或 routed-MoE TP（并行度 2–8），有明确内存/卸载约束。历史 vcruz305 七分片结果不构成该修复版本的验证。运行配方与验证范围 → | |
| DeepSeek V4 | DeepSeek-V4-Flash-0731（284B MoE） | unsloth/DeepSeek-V4-Flash-0731-GGUF；每个量化档一个子目录（UD-Q8_K_XL/、UD-IQ4_XS/、UD-IQ1_S/ …），均为多分片——--model 指向 -00001-of- 那一片。仅文本；--layer-split N 将整层放到 N 张本地 GPU（默认单设备） | |
| DeepSeek V4 | DSpark 投机草稿器（可选） | bleysg/DeepSeek-V4-Flash-DSpark-drafter-GGUF 的 DSpark-drafter-Q2K-Q8-0731.gguf（7.0 GB，对应 0731 版本），用 --draft-model 加载可获得约 1.3–1.4× 的 decode 提速。另有两家发布的构建（5.6 GB / 10.9 GB）也可直接加载，见 MODEL_DOWNLOADS_zh-cn.md。其他架构的草稿器属于不同设计，暂不支持 | |
| GLM 5.x | GLM-5.2（744B-A40B MoE） | unsloth/GLM-5.2-GGUF；每个量化档一个子目录（UD-Q4_K_XL/、UD-IQ2_XXS/ 等），每档都是多分片集合——--model 指向 -00001-of- 那一片，其余由 GgufFile 自行读取。纯文本；无投影器、无草稿器 | |
| GLM 5.x | GLM-5.3（256 个路由专家，glm-dsa） | unsloth/GLM-5.3-GGUF；每种量化一个子目录，均为多分片，--model 指向 -00001-of- 分片。仅文本，该仓库未发布 mmproj。它带有 NextN 块，但该块没有自己的 LM head，因此 --spec 在单设备或显式 --layer-split N 放置模式（不启用张量并行）下生效 | |
| GLM 5.x | GLM-5.3-Flash（320B MoE，glm5next） | unsloth/GLM-5.3-Flash-GGUF；每个量化档一个子目录，每档都是多分片集合——--model 指向 -00001-of- 那一片。图像输入需要同仓库的 mmproj-BF16.gguf（GLM-OCR ViT）。与 GLM-5.2 走同一个原生执行器；用 --layer-split N 将整层放到 N 张本地 GPU，而 GGML GPU 后端上的 --tp N 会选择仅支持本地单进程的原生张量并行 | |
| Gemma 4 | gemma-4-E4B-it | ggml-org/gemma-4-E4B-it-GGUF；已验证 E4B Q8_0 原生 GGML 规格推荐使用公开文件 gemma-4-E4B-it-Q8_0.gguf；多模态投影器为同仓库的 mmproj-gemma-4-E4B-it-Q8_0.gguf；MTP 草稿：AtomicChat/gemma-4-E4B-it-assistant-GGUF | |
| Gemma 4 | gemma-4-12B-it（QAT） | unsloth/gemma-4-12B-it-qat-GGUF；同仓库 mmproj-BF16.gguf 与 mtp-gemma-4-12B-it.gguf | |
| Gemma 4 | gemma-4-31B-it | ggml-org/gemma-4-31B-it-GGUF；同仓库 mmproj：mmproj-gemma-4-31B-it-Q8_0.gguf | |
| Gemma 4 | gemma-4-26B-A4B-it (MoE) | ggml-org/gemma-4-26B-A4B-it-GGUF；同仓库 mmproj：mmproj-gemma-4-26B-A4B-it-Q8_0.gguf | |
| Gemma 4 | gemma-4-26B-A4B-it（MoE，QAT） | unsloth/gemma-4-26B-A4B-it-qat-GGUF；同仓库 mmproj-BF16.gguf 与 MTP 草稿 mtp-gemma-4-26B-A4B-it.gguf；另有草稿 AtomicChat/gemma-4-26B-A4B-it-assistant-GGUF——草稿只能与相同尺寸的目标模型搭配 | |
| Qwen 3.5 / 3.6 | Qwen3.5-9B | unsloth/Qwen3.5-9B-GGUF；同仓库 mmproj：mmproj-F16.gguf | |
| Qwen 3.5 / 3.6 | Qwen3.5-35B-A3B (MoE) | ggml-org/Qwen3.5-35B-A3B-GGUF；同仓库 mmproj：mmproj-Qwen3.5-35B-A3B-Q8_0.gguf | |
| Qwen 3.5 / 3.6 | Qwen3.6-35B-A3B（MoE，NextN MTP） | unsloth/Qwen3.6-35B-A3B-MTP-GGUF；UD-Q4_K_M 约 21.11 GiB；同仓库 mmproj：mmproj-F16.gguf。这些 GGUF 保留了内嵌的 NextN 块，可用于 --spec；基础仓库（unsloth/Qwen3.6-35B-A3B-GGUF）的 GGUF 会剥离该块，并悄悄回退到标准解码 | |
| Qwen 3.5 / 3.6 | Qwen3.8-27B（稠密混合，内嵌 NextN） | unsloth/Qwen3.8-27B-GGUF，如 Qwen3.8-27B-UD-Q4_K_XL.gguf，即 config/agent-qwen3.8-27b.json 以提交与 SHA-256 固定的文件；它保留了内嵌的 NextN 块，可用于 --spec。同仓库 mmproj：mmproj-BF16.gguf。与 Qwen 3.5 走同一个 qwen35 插件（详情） | |
| Qwen 3.5 / 3.6 | Qwen3.8-27B DFlash2 分块草稿模型（可选） | z-lab/Qwen3.8-27B-DFlash2-GGUF，用 --draft-model 加载；挂上后取代内嵌的 NextN 块。收益取决于负载，见 Qwen 3.5 / 3.6 | |
| Qwen 3.8 Flash Next | Qwen3.8-Flash-Next（混合 MoE，qwen4exp） | unsloth/Qwen3.8-Flash-Next-GGUF；每个量化档一个子目录，每档都是多分片集合——--model 指向 -00001-of- 那一片。在 48 GB 的 Mac 上，ggml_metal 能超出内存运行 UD-Q2_K_XL（78.9 GB，三个分片），按需从 SSD 读取 n-gram 表与被卸载的专家；TensorAgent 也在这类 Mac 上提供它（详情）。图像与视频输入需要同仓库的 mmproj-BF16.gguf。可选的 MTP 草稿：共享头 mtp-Qwen3.8-Flash-Next-shared-Q8_0.gguf（2,786,568,256 字节，取自该仓库的修订版本 38bb39ee），在 GGML 后端上用 --draft-model 加载——对大量复制原文的输出有收益，散文反而变慢。用 --layer-split N 将整层放到 N 张本地 GPU，这是按层切分而非张量并行；不支持跨节点执行 | |
| GPT OSS | gpt-oss-20b (MoE) | ggml-org/gpt-oss-20b-GGUF；仅文本 | |
| Nemotron-H | Nemotron-H-8B-Reasoning-128K | bartowski/nvidia_Nemotron-H-8B-…；仅文本 | |
| Nemotron-H | Nemotron-H-47B-Reasoning-128K | bartowski/nvidia_Nemotron-H-47B-…；仅文本 | |
| Nemotron-H | Nemotron 3 Nano Omni 30B-A3B（图像） | unsloth/NVIDIA-Nemotron-3-Nano-Omni-…；图像输入需要同仓库 mmproj-BF16.gguf；它不含音频塔：音频需要另行准备、带 Parakeet 音频塔的伴随 GGUF（转换脚本在 eng/nemotron-audio/；没有公开仓库提供），缺少时音频会被拒绝 | |
| Nemotron 3.5 | Nemotron-3.5-Lightning-30B-A3B（23 层 Mamba-2 + 23 层 MoE + 6 层注意力） | unsloth/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF；没有草稿模型：Nemotron-H 拒绝所有投机解码器，因为它的多 token 验证与单 token 解码使用不同的内核，所以 NVIDIA 为该模型提供的 DSpark 草稿器不会被挂上（服务端会拒绝以它启动） | |
| Mistral 3 | Mistral-Small-3.1-24B-Instruct | bartowski/mistralai_Mistral-Small-3.1-24B-…；Q4_K_M 约 13.35 GiB；同仓库 Pixtral mmproj：mmproj-mistralai_Mistral-Small-3.1-24B-Instruct-2503-f16.gguf | |
| Hunyuan Dense | 腾讯稠密 Hunyuan（hunyuan-dense），例如 Hy-MT2 | 任何声明该架构的 GGUF；由 general.architecture 决定，与文件名无关。仅文本、单设备，没有投影器也没有草稿模型 | |
| Bonsai2 | Ternary-Bonsai-2-27B PQ2_0 / PTQ1_0（qwen35 + prism.hadamard.*） | prism-ml/Ternary-Bonsai-2-27B-gguf @ b072e1d 中的 Ternary-Bonsai-2-27B-PQ2_0.gguf / -PTQ1_0.gguf（Apache-2.0），确切字节数与 SHA-256 见 Bonsai2 卡片。图像输入用同仓库的 Ternary-Bonsai-2-27B-mmproj-BF16.gguf 或 -mmproj-Q8_0.gguf。仅支持单设备 GGML 后端 | |
| DiffusionGemma | diffusiongemma-26B-A4B-it | unsloth/diffusiongemma-26B-A4B-it-GGUF；Q4_K_M 约 15.65 GiB。图像输入（可选）需要视觉塔，但没有任何 GGUF 带它：用 --mmproj 加载 google/diffusiongemma-26B-A4B-it 的 model-00011-of-00011.safetensors（2.84 GB）；config/diffusiongemma-26b-a4b-q4.json、-q3.json 与 jev-diffusiongemma-q4.json 会自动下载它。该检查点没有音频塔 | |
| Muse-Glimmer | Muse-Glimmer-30B | unsloth/Muse-Glimmer-30B-GGUF；图像输入需要同仓库的 mmproj：mmproj-Muse-Glimmer-30B-Q8_0.gguf | |
| Muse-Glimmer | DFlash 投机草稿模型（可选） | unsloth/Muse-Glimmer-30B-GGUF 中的 dflash-*.gguf —— 5 层块级草稿模型，用 --draft-model 加载。验证以贪心方式对齐主干，因此输出与普通贪心 decode 一致 | |
| Muse Spark | Muse-Spark-Open-816B-A42B（816B 稀疏 MoE，muse-spark） | unsloth/Muse-Spark-Open-816B-A42B-GGUF；每种量化一个子目录，均为多分片集合——UD-IQ3_XXS/ 为八个分片、317 GiB（即实测所用的量化），UD-Q3_K_XL/ 为十个分片、374 GiB，UD-Q4_K_XL/ 为十二个。同一量化的所有分片放在同一目录，--model 指向其中任一分片即可；后续分片并不是独立模型。需要多 GPU 服务器（实测为十张 A40，UD-IQ3_XXS 的全部专家都在显存中）；GPU 更少时，放不下的专家堆栈需要大容量主机内存。没有草稿器：推测解码只有 n-gram。配方与限制 → | |
| Muse Spark | 图像投影器（可选） | unsloth/Muse-Spark-Open-816B-A42B-GGUF 仓库根目录下的 mmproj-Q8_0.gguf（2.2 GB），图像输入时用 --mmproj 传入。它的投影器类型是 muse-glimmer，但 8192 宽的输出必须与 Spark 解码器匹配——Muse-Glimmer-30B 的投影器会被拒绝 | |
| MiniMax-M3.1 | MiniMax-M3.1-Flash（428B 稀疏 MoE，minimax-m3） | unsloth/MiniMax-M3.1-Flash-GGUF | UD-Q4_K_XL/ 为七个分片、232.3 GiB——--model 指向 -00001-of-00007 分片。仅在 ggml_cuda 上运行，并且需要显式的 --layer-split N 或 --tp N（实测配置为八张 46 GB A40）；否则 TensorSharp 只用一张 GPU，而模型放不下 |
| MiniMax-M3.1 | 图像投影器与 DSpark 草稿器（可选，需转换） | MiniMaxAI/MiniMax-M3.1-Flash + llama.cpp PR #320 | Unsloth 仓库目前两者都没有。用 PR #320 的转换器（minimax-m31 @ ef8f94cc）从配置 / 分词器文件、第 13 与 48 个 safetensors 分片（视觉塔）以及 dspark/ 转换：mmproj-MiniMax-M3.1-Flash-BF16.gguf（1.74 GB，--mmproj）与 MiniMax-M3.1-Flash-DSpark-BF16.gguf（3.93 GB，--draft-model，仅按层切分）。步骤 → |
| Qwen-Image-2.1 | 扩散 Transformer（--model） | Abiray/Qwen-Image-2.1-GGUF 中的 qwen_image_2.1_Q4_K_M.gguf；config/qwen-image-2.1.json 会以固定修订版本与 SHA-256 校验下载它以及下面三个伴随文件（合计约 10.29 GiB）。不带元数据的 2.1 GGUF（例如 Unsloth 的 qwen-image-2.1-Q8_0.gguf）同样可以加载：架构依据张量布局识别。更早的 Qwen-Image 与 Qwen-Image-Edit-2511 Transformer 会被拒绝 | |
| Qwen-Image-2.1 | 专用 2.1 VAE（必需） | Comfy-Org/Qwen-Image-2.1 中的 vae/qwen_image_2.1_vae_bf16.safetensors；放在 DiT 旁，或通过 --qwen-image-vae 指定 | |
| Qwen-Image-2.1 | Qwen3-VL-8B 文本编码器（必需） | Qwen/Qwen3-VL-8B-Instruct-GGUF 中的 Qwen3VL-8B-Instruct-Q4_K_M.gguf；放在 DiT 旁，或通过 --qwen-image-vl 指定 | |
| Qwen-Image-2.1 | 编辑用视觉编码器 | 同一 Qwen3-VL 仓库 Qwen/Qwen3-VL-8B-Instruct-GGUF 中的 mmproj-Qwen3VL-8B-Instruct-F16.gguf；放在 DiT 旁，或通过 --qwen-image-mmproj 指定。自动查找只匹配名字里含 qwen3vl-8b / qwen3-vl-8b 的文件，因此名为 mmproj-BF16.gguf 的投影器（Unsloth 的命名）必须用该参数指定 | |
| Qwen-Image-2.1-Turbo | 扩散 Transformer，8 步蒸馏版（--model） | AtomicChat/Qwen-Image-2.1-Turbo-GGUF 中的 Qwen-Image-2.1-Turbo-AD-Q4_K.gguf（4.20 GB），或 Transformer 最接近全精度的 Qwen-Image-2.1-Turbo-Q8_0.gguf（7.59 GB，文本编码器仍是同一个 Q4_K_M）。config/qwen-image-2.1-turbo.json 以固定修订版本与 SHA-256 下载 AD-Q4_K，共用上面的 2.1 VAE、文本编码器与 mmproj，并声明检查点（--qwen-image-variant turbo），见 Qwen-Image-2.1-Turbo | |
| Qwen-Image-2.1 | LoRA 插件（可选） | config/lora/qwen-image-2.1-*.json 中的十四个插件，用 --lora 加载；每个插件在首次使用时以固定修订版本与 SHA-256 下载其权重。包括步数蒸馏适配器与风格 / 编辑 LoRA，见 LoRA 插件 | |
| MiniMax-H3 音视频 | FL2VA 去噪器（--model）—— 文本与关键帧 | unsloth/MiniMax-H3-GGUF 中的 minimax_h3_fl2va_pruned-Q4_K.gguf（10.64 GiB）—— 文生视频、图生视频（这张图就是第一帧）以及首尾帧。H3 是 CFG 蒸馏模型：必须传 --cfg 1.0，默认 20 步；下文可选的 Turbo 插件让它只跑 8 或 4 步。发布的 GGUF 完全不带元数据，TensorSharp 靠张量识别它们，并从文件名读取分区——重命名或重新量化时请把 fl2va 保留在名字里 | |
| MiniMax-H3 音视频 | Ref2VA 去噪器（另一个 --model）—— 文本与参考 | unsloth/MiniMax-H3-GGUF 中的 minimax_h3_ref2va_pruned-Q4_K.gguf（10.60 GiB）—— 即 ref 模式：最多九个身份与外观参考，静图、片段、音轨可任意混合（--ref-image、--ref-video、--ref-video-audio、--ref-audio），用于生成全新场景，而不是必须复现的那几帧。是两个检查点，不是两个开关：向其中一个要另一个的模式会直接失败，报错会指名该去加载哪个文件；关键帧与显式参考同时出现则被直接拒绝。请把 ref2va 保留在文件名里——分区就是从这里读的。下面三行与 FL2VA 共用，所以之后再补这个检查点只需多下它自己的 10.60 GiB | |
| MiniMax-H3 音视频 | Qwen3-VL-32B 文本编码器（必需） | unsloth/MiniMax-H3-GGUF 中的 qwen3vl_32b_minimax_h3-Q4_K_M.gguf（16.97 GiB）；也可用 -Q2_K_M.gguf（12.20 GiB）搭配更小的去噪器。截断到 50 层并去掉最后的 norm，在去噪开始前就会释放。它不带分词器——见下方提示框。放在去噪器旁边，或用 --video-text-encoder 指定 | |
| MiniMax-H3 音视频 | 视频 VAE（必需） | Comfy-Org/MiniMax-H3 中的 minimax_h3_video_vae_fp16.safetensors（5.21 GB）—— 空间 16×、时间 4×，解码器是纯 Transformer，没有反卷积。上面那个 unsloth 仓库的 vae/ 目录下也有镜像。放在去噪器旁边，或用 --video-vae 指定 | |
| MiniMax-H3 音视频 | 音频 VAE（可选） | Comfy-Org/MiniMax-H3 中的 minimax_h3_audio_vae_fp32.safetensors（0.61 GB）—— 一个无混叠 BigVGAN，把联合生成的音频潜变量解码成 32 kHz 立体声，作为旁挂 .wav 写在 MP4 旁边。不下载它照样出视频，只是没有声音。用 --audio-vae 指定。在 Ref2VA 上，--ref-audio 也要过它的编码器，所以省掉它连参考音轨也一起没了 | |
| MiniMax-H3 音视频 | Turbo LoRA 插件（可选，仅 FL2VA） | lightx2v/Minimax-h3-Turbo 中的 minimax_h3_fl2v_turbo_8step_v1.0_768p_bf16.safetensors 与 minimax_h3_fl2v_turbo_4step_v1.2_768p_bf16.safetensors，各 1,383,677,808 字节，Apache-2.0。无需手动下载：--lora config/lora/minimax-h3-fl2v-turbo-8step.json（或 -4step.json）会在首次使用时下载权重，固定在修订版 a29e57d 并校验 SHA-256，保存到模型根目录下的 minimax-h3/loras/。它们按锁定的配方只跑 8 或 4 步而不是 20 步；4 步配方为推断所得。Ref2VA 检查点会拒绝它们——见 Turbo 插件 | |
| Wan 视频 | 步数蒸馏 Wan DiT —— 快车道（推荐） | hum-ma/Wan2.2-TI2V-5B-Turbo-GGUF 中的 Wan2_2-TI2V-5B-Turbo-Q8_0.gguf（5.40 GB）—— 注意 Wan2_2 用的是下划线；最小到 Q2_K（1.86 GB）。从文件名自动识别，无需改任何参数：DiT 前向由 100 次降到 4 次，并关闭引导。A14B 图生视频用 jayn7/WAN2.2-I2V_A14B-DISTILL-LIGHTX2V-4STEP-GGUF，两个专家（high_noise/ 与 low_noise/）都要下载。这两个仓库都不含 VAE 和文本编码器——请从下面两行取 | |
| Wan 视频 | 基础 Wan DiT（完整步数配方） | QuantStack/Wan2.2-TI2V-5B-GGUF 中的 Wan2.2-TI2V-5B-Q8_0.gguf（5.40 GB），同仓库已附带 VAE/Wan2.2_VAE.safetensors。另有 Wan2.2-I2V-A14B 与 Wan2.2-T2V-A14B（需同时下载 HighNoise 与 LowNoise 两个专家；两个仓库均附带 Wan 2.1 VAE）、Wan2.1-T2V-14B 与 Wan2.1-T2V-1.3B | |
| Wan 视频 | UMT5-XXL 文本编码器（必需） | city96/umt5-xxl-encoder-gguf 中的 umt5-xxl-encoder-Q8_0.gguf（6.04 GB；内存紧张可用 Q5_K_M 4.15 GB 或 Q4_K_M 3.66 GB）—— 放在 DiT 旁边，或用 --video-text-encoder 指定 | |
| Wan 视频 | 视频 VAE（必需） | wan_2.1_vae.safetensors；需要哪一个由 DiT 自己决定，不用你选：Wan 2.1 与 A14B 用 wan_2.1_vae.safetensors，TI2V-5B 用 Wan2.2_VAE.safetensors。QuantStack 的两个 A14B 仓库与 TI2V-5B 仓库都已在 VAE/ 下附带，因此只有 Wan 2.1 检查点和蒸馏仓库才需要单独下载。放在 DiT 旁边（VAE/ 子目录亦可）或用 --video-vae 指定 |
🧩
多模态模型需要投影器（mmproj）文件。请下载匹配文件并显式传入 --mmproj；服务端不会自动检测聊天模型的投影器（Qwen-Image-2.1 的编辑用投影器例外：两个宿主都会在 DiT 旁查找它，见上表对应行）。CLI 在给出图像却没有 --mmproj 时（Gemma 4 与 Nemotron 在给出音频或视频时也会），只会在模型旁边查找该家族声明的文件名——例如 Qwen 3.8 Flash Next 与 GLM 5.x 的 *mmproj*.gguf、DeepSeek V4.1 的 deepseek41.vision.gguf、Bonsai2 的两个投影器文件名——而且从不查找 DiffusionGemma 的视觉分片。
🔤
MiniMax-H3 的文本编码器 GGUF 不带分词器。随仓库提供的唯一配置会从 MiniMaxAI/MiniMax-H3 下载固定版本的 vocab.json、merges.txt 与 tokenizer_config.json，并放在编码器旁边。手动安装时可将 TS_VIDEO_TOKENIZER 指向这些文件所在目录。
📦
config/minimax-h3-fl2va.json 下载两个去噪器、共享文本编码器、两个 VAE 与分词器文件（总计约 46 GB）；后续运行复用缓存。服务无需重启即可切换首尾帧与参考模式。模型网络会轮流加载和释放，因此显存峰值取决于最大的单个网络，而非总和。