在 ComfyUI 中可以运行,但尚未完全支持,存在显存/内存峰值问题。很可能在一天内修复。 支持普通的 Klein 9B LoRA。


允许对文本注意力层进行量化:

flux2-klein-9b-kv-nvfp4.safetensors



文本注意力层保持为 bf16 格式:

flux2-klein-9b-kv-nvfp4_txtattnBF16.safetensors

​

​工作流

​

介绍

FLUX.2 [klein] 9B-KV 是 FLUX.2 [klein] 9B 的一个优化变体,支持 KV 缓存以加速多参考图像编辑。该变体在首次去噪步骤中缓存参考图像的键值对(KV pairs),从而避免后续步骤中的重复计算,显著加快多图像编辑工作流。

​

主要特性

  1. KV 缓存优化:参考图像的 KV 对仅计算一次并缓存,在多参考图像编辑任务中可将推理速度提升最多 2.5 倍。
  2. 完整保留 FLUX.2 [klein] 9B 的所有能力:亚秒级生成、文本到图像生成,以及单一统一模型中的多参考图像编辑。
  3. 非常适合交互式应用和实时编辑流水线,尤其适用于在多次生成中重复使用相同参考图像的场景。
  4. 包含 9B 流模型和 8B Qwen3 文本嵌入器,并通过步数蒸馏压缩至仅需 4 步推理。
  5. 可用于非商业用途。

KV 缓存的工作原理

在标准图像编辑中,参考图像的 token 会在每个去噪步骤中被处理。启用 KV 缓存后:

  • 步骤 0:执行完整前向传播,处理参考 token 并将其键值对提取到缓存中。
  • 步骤 1-3:重用缓存的 KV 对,跳过冗余的参考 token 计算。

此机制在以下场景中尤为有效:

  • 使用多个参考图像进行编辑
  • 使用相同参考图像生成多种变体
  • 构建交互式图像编辑应用

局限性

  • 本模型并非设计用于提供事实信息,也不具备该能力。
  • 尽管模型可以输出文本,但所渲染的文本可能不准确或发生扭曲。
  • 作为一种统计模型,该检查点可能会体现或放大训练数据中存在的偏见。
  • 模型可能无法生成与提示匹配的输出。
  • 提示跟随效果在很大程度上受提示编写风格的影响。