H3 V100 v2.0.3

修复了已复现的长序列任务在第二段采样时发生数值溢出，导致视频全黑、音频出现 NaN，最终 AAC 导出失败的问题。

H3 V100 v2.0.2

H3 V100 v2.0.2 更新说明

相对 2.0.0，主要变化：

1. 优化长序列双卡调度，提升已验证的序列长度边界：更准确地利用两卡可用显存，成功案例的视频序列已达 152,736 tokens，文本、音频等输入另计。
2. 改善显存分配与回收：修复工作区生命周期问题，提高连续生成和取消后继续运行的稳定性。
3. 支持同采样段恢复双卡：可恢复 OOM 后，先由单卡完成当前 block，再允许后续调用重新尝试双卡；限制重试次数，避免反复 OOM。
4. 完善错误处理：致命 CUDA 清理错误及时上报，可恢复错误保留回收与重试机会。

速度提升

以 2.0.0 发布演示采用的同工作流历史样本为参考，双 V100 16 GB、5 秒 2304×1280、7+2 步双采，整段耗时由 20:28 降至 18:31 / 18:20，平均约 18:26，耗时减少 10%。这是历史样本对比，并非严格同环境的版本 A/B 测试。

启动配置

移除 --disable-dynamic-vram 和 --lowvram，不要启用 --fast fp16_accumulation。分配器沿用正常工作的配置，--disable-cuda-malloc 可保留。修改启动参数后，完整重启 ComfyUI 并重新加载模型。

H3 V100 v2.0.0

H3 V100 v2.0.0 更新说明

相对上一公开版 v1.4.1，本版将更多加速功能整合到同一个主节点中。

• 新增双卡支持：可自动选择或指定第二张 V100，Flash 和 SOL 均可配合双卡运行。
• 新增 FP8 适配：支持 scaled FP8 E4M3 UNet，并保留 INT8 ConvRot 支持。
• 升级 SOL：提供 Quality、Speed、Ultra 和 Manual 档位，便于选择质量与速度。
• 集成 EasyCache：提供 Off、Quality、Speed，分别保护视频与音频。
• 完善双采支持：改善两段采样、latent 放大和 Sigma Refiner 的配合。
• 优化显存与稳定性：改善长序列、连续运行及阶段切换的资源协调，保留显存不足时的保护。

升级请完整替换旧文件夹，重启 ComfyUI，并重新添加 Optimize 节点。继续使用默认 DynamicVRAM；8 步 Turbo LoRA 使用已验证的 Euler。建议先用已有短视频工作流确认音画。

使用方法与运行示例见 中文说明 / English。

安装请选择 H3_V100-v2.0.0.zip；对应 CUDA 源码及构建脚本在 H3_V100-v2.0.0-source.zip，无需安装。

H3 V100 v1.4.1

H3 V100 v1.4.1 更新说明

修复

• 修复连续运行第二次或第三次时，文本编码阶段可能出现
  hostbuf_read_file_slice: device copy failed result=2 并导致 ComfyUI
  进程直接退出的问题。
• 下一轮加载文本编码器前，会清理已经完成的预取队列，并释放本节点上一轮留下的
  H3 DynamicVRAM 驻留。该逻辑只作用于本节点标记的 H3 模型，不改变其他模型的
  DynamicVRAM 行为。

主要更新

• 适配 ComfyUI 默认 DynamicVRAM，由 ComfyUI VBAR 管理压缩权重驻留。
• H3 开始采样前自动释放已经失活的前阶段 CUDA Dynamic 模型，为单卡采样腾出
  显存。
• MLP 在一次调用内只准备一次 fc1/fc2 权重，并供全部 activation chunks
  复用，明显缩小冷启动与热启动的耗时差距。
• 固定启用经过验证的 scaled FP16 SwiGLU、自适应 MLP 分块和超长序列投影
  分块。
• 保留精确 flash_attn 与显式 sol_attn 两条路线；Flash 不会隐式进入 Sol。

启动参数

请从 ComfyUI 启动命令中删除：

--disable-dynamic-vram
--lowvram

V100 不建议启用全局 --fast fp16_accumulation。修改启动命令后需要完整重启
ComfyUI，并重新加载扩散模型。

验证环境与结果

当前测试使用单张 NVIDIA Tesla V100 16 GiB。所有 CUDA 工作均在 cuda:0；
H3 与视频/音频 VAE 由 ComfyUI DynamicVRAM 和 CPU offload 管理，文本编码器
在 CPU 运行，没有进行多卡模型分配。

路线	状态	首轮	显示平均	完整任务
Flash	冷启动	63.85 秒	54.70 秒/轮	563.77 秒
Flash	热启动	54.66 秒	55.41 秒/轮	490.84 秒
Sol	热启动	54.7 秒	约 54 秒/轮	485.69 秒

以上运行均正常生成画面和声音；耗时用于说明当前环境下的运行状态，不作为跨设备
性能保证。

H3 V100 v1.4.0

H3 V100 v1.4.0 更新说明

主要更新

• 适配 ComfyUI 默认 DynamicVRAM，由 ComfyUI VBAR 管理压缩权重驻留。
• H3 开始采样前自动释放已经失活的前阶段 CUDA Dynamic 模型，为单卡采样腾出
  显存。
• MLP 在一次调用内只准备一次 fc1/fc2 权重，并供全部 activation chunks
  复用，明显缩小冷启动与热启动的耗时差距。
• 固定启用经过验证的 scaled FP16 SwiGLU、自适应 MLP 分块和超长序列投影
  分块。
• 保留精确 flash_attn 与显式 sol_attn 两条路线；Flash 不会隐式进入 Sol。

启动参数

请从 ComfyUI 启动命令中删除：

--disable-dynamic-vram
--lowvram

V100 不建议启用全局 --fast fp16_accumulation。修改启动命令后需要完整重启
ComfyUI，并重新加载扩散模型。

验证环境与结果

当前测试使用单张 NVIDIA Tesla V100 16 GiB。所有 CUDA 工作均在 cuda:0；
H3 与视频/音频 VAE 由 ComfyUI DynamicVRAM 和 CPU offload 管理，文本编码器
在 CPU 运行，没有进行多卡模型分配。

路线	状态	首轮	显示平均	完整任务
Flash	冷启动	63.85 秒	54.70 秒/轮	563.77 秒
Flash	热启动	54.66 秒	55.41 秒/轮	490.84 秒
Sol	热启动	54.7 秒	约 54 秒/轮	485.69 秒

以上运行均正常生成画面和声音；耗时用于说明当前环境下的运行状态，不作为跨设备
性能保证。

H3_V100 v1.3.0

H3_V100 v1.3.0

面向 NVIDIA V100 / SM70 的 MiniMax H3 推理优化更新。本版将节点收敛为
混合精度、Flash/Sol Attention 选择和自动显存调度三部分。

相对上一公开版的主要变化

• 将原 flash_attention 布尔开关升级为明确的 flash_attn / sol_attn
  后端选择。

• 新增 Sol 的 tau、扩散调度起点和终点选项；Flash 模式不会隐式进入
  Sol。

• 移除自动 Attention benchmark，避免首次执行重复计算 Attention 输出。

• 混合精度收敛为一个总开关；移除公开诊断和独立 FP32 MLP 参考开关。

• 保留 FP32 SwiGLU、残差流、Attention 输出投影、音频查询修正以及条件/
  输出边界。

• 新增经过验证的原生 Sol CSR、受保护前缀和精确回退链路。

• MLP 从固定分块档位升级为按实时显存预算计算的均衡分块，并保留显存
  压力下立即降级、稳定后迟滞升级。

• QKV、RMSNorm、RoPE、Attention 输出投影分块以及 cache trim 继续自动
  启用，不需要工作流手动配置。

• 权重 cast 改为 H3 forward 范围内的同步按需调度，结束后恢复 ComfyUI
  的全局 stream 设置，避免影响其他模型阶段。

• 默认隐藏高频 cache trim 遥测信息，正常生成日志不再被重复显存回收记录刷屏。

• 明确 V100 16GB 验证路线需要同时使用：

  --lowvram --disable-dynamic-vram
  

• 更新中英文文档，补充 AIMDO 权重流式加载、PyTorch reserved cache 与
  driver-free VRAM 的边界说明。

精度说明

• flash_attn 是精确 Attention 路线，只包含正常 FP16 运算误差。
• sol_attn 是用户显式选择的稀疏近似路线，只在设定的 Block 和扩散阶段
  范围内运行，其余位置使用精确回退。
• 默认路线不包含跳步、TeaCache、PAB 或 residual 复用。

性能概况

单张 V100 16GB、608x352、15秒、8步文生视频热启动测试中，Flash 为
62.21秒/步，Sol 为62.51秒/步，两者差异约0.5%。不使用节点但保留相同安全
启动参数时为214.71秒/步；对应约3.45倍和3.43倍采样吞吐。该结果仅作为同
启动配置下的兼容性参考，因为两个启动参数会关闭 ComfyUI 的部分动态显存优化。

结合相似序列长度的历史记录，预计本版相对上一公开代际整体还有约5%～10%的
执行效率改善。不同工作流、模型放置、显卡温度和降频状态会影响实际结果，
该区间不作为固定性能保证。

环境与兼容性

• NVIDIA V100 / SM70。
• Windows x64、CPython 3.12。
• 验证环境：torch==2.8.0+cu128。
• 仅支持 MiniMax H3 推理；未知模型结构会被拒绝。
• 使用 TE-Speed 时，将其放在 H3 V100 之前，并继续保留两个启动参数。

完整安装、精度边界和测试条件见中英文 README。

参考

• NVIDIA Sol-Attn 项目页
• Sol-Attn 论文

Sol-Attn 是训练无关的在线块稀疏 Attention 方法。本节点是面向 MiniMax H3
和 V100/SM70 的独立适配；论文在其他模型和硬件上的性能数据不代表本节点。

H3_V100 v1.1.2

H3_V100 v1.1.2

Initial public release of the standalone ComfyUI MiniMax H3 optimization node for NVIDIA Tesla V100 (SM70).

Recommended download

Download H3_V100-v1.1.2.zip for normal installation. Extract it directly into ComfyUI/custom_nodes/; the archive already contains the required top-level H3_V100 directory.

ZIP SHA-256: C9DBBDA4AB70D0CBA8B6D46DD937D4C8E1554B2B82A1154FB4EE0A5C916DF85C

Highlights

• Validated H3 mixed-precision and FP16-linear inference path
• Optional shape-benchmarked SM70 Flash Attention with safe fallback
• Always-on VRAM-aware adaptive MLP, QKV and output-projection chunking
• Long-sequence memory guards tested through 102,623 tokens
• English and Simplified Chinese documentation
• Native source, rebuild instructions, licenses and attribution included

Native extension

The standalone .pyd attachment is provided for developers or manual replacement. It targets Windows CPython 3.12 and the documented PyTorch/CUDA ABI. Import PyTorch before loading the extension. Other environments must rebuild from native/BUILD.md.

Extension SHA-256: 0532920F87D048A5F8B1F20B1C2FEFE984DB4A971FDBEDF8EB322E58BE883B5A

See the README for hardware requirements, benchmark configuration, operating tiers and limitations.