v0.5.0

AngelSlim V0.5.0 版本发布

功能升级

量化

• 新增 NVFP4 weight-only 量化能力 #347
• 新增 SmoothQuant 校准流程，支持 Hunyuan-V3（HY3）模型 #322
• 支持 vLLM 后端校准 Hunyuan-V3 模型，并进一步支持数据并行（data parallel）校准，提升大模型校准效率 #309 #349
• 修复 GPTQ 的 Hessian 计算、变长序列支持及层输出类型处理 #318
• 优化 SmoothQuant 配置与权重转换脚本（convert_smooth_weight.py），统一 YAML 路径与默认配置 #327 #337 #339 #341 #344
• 将 INT8/FP8/AWQ/lepto_fp8 迁移到新的 Catcher API #352

稀疏与注意力加速

• 新增 VecAttention 稀疏 Prefill 能力，面向视觉语言模型（Qwen2.5-VL），集成稀疏注意力 Triton 内核及图像/视频推理工具 #320
• 新增 D-Flash / D-Flare 相关能力 #325
• 新增 Stem 稀疏注意力模块的 News 与 Benchmark 结果文档 #328

蒸馏与训练

• 新增蒸馏（Distill）流水线，并拆分 QAD 与 Distill #307 #313
• 新增 TransformDataset + 高斯噪声（GaussianNoise）的离线 hidden-state 数据增强能力 #303
• 修复 trainer 在 eval step 的 train/eval 指标缩水问题 #302

Token 压缩 / 剪枝

• 校验 token 剪枝比例并统一 keep-count 解析逻辑 #342
• 加固 process_token_dict_to_mappings（显式 dtype、O(1) 查找、断言校验）#304

Bug fix 及其他

• 修复 SeedOss 模型崩溃（find_layers 调用方式错误）#350
• 修复 MoE 权重悬空引用，及 Qwen3-Omni 模型适配器兼容性问题 #334
• 修复从 JSON config 加载压缩模型时 compression_config 被丢弃的问题 #333
• 修复 Hunyuan-V3 vLLM 校准的 mtp config #329
• 修复数据模块 data_type 别名与 'auto' 到可调度数据集 id 的解析 #335
• 适配 transformers>=5.0 的 Qwen3-Omni #296
• 修复 ShareGPT 对话解析（保留所有轮次、修正 system prompt）#345
• 统一 HY3 命名规范 #321
• 文档：新增 D-Cut blog 页面并适配 readthedocs 路径 #314 #315；补充 1.25bit STQ1_0 kernel、蒸馏功能等 README 说明 #298 #310 #293