Skip to content

SuperNPUBench ops-20261013.2(含 solution/quant/dynamic_mx_quant)

Choose a tag to compare

@lvhao7896 lvhao7896 released this 13 Oct 03:51
1d32b51

基于 main,HEAD 1d32b513。按 suite 拆 2 小包,包含全部编译产出 ELF(不设 gfrun 门禁)。

本版定位:10-13 的第二个构建。tag 用 ops-20261013.2(同日第二版),因为 ops-20261013 已发布、且其指向的 commit(4c66c2ab)不含本次的 mxquant 接线;已发布产物不做覆盖改写。相对第一版,本版新增 solution/quant/dynamic_mx_quant 套件的编译产出。

构建源说明:严格基于 origin/main(1d32b513)在干净的临时 worktree 中编译,不含任何本地未提交改动。

验证环境

组件 分支/版本 Commit
PTO ISA 规范 / pto-spec v0.58.7.0-10-g03eb383fa 03eb383fa
llvm-project linx64v5-musl-local 3e55e80be
Linx-TileOP-API linxisa-v0.58.0-250-gbda0d32 bda0d32
linx-toolchain-build main e6a31ef
SuperNPUBench origin/main 1d32b513
  • 编译器:clang 15.0.4,target linx64v5-unknown-linux-musl(硬性使用主 linx-toolchain-build checkout)。
  • 相对 ops-20261013:pto-spec ee64ee4fc → 03eb383fa;llvm-project / TileOP-API / linx-toolchain-build 未变。

关键变更(vs ops-20261013)

3 个提交:

  • 7bcdfb30 build(one-level-arch): 接入 solution/quant/dynamic_mx_quant 并修复 compile.all 中断 bug —— 顶层 compile_all.sh 新增该 suite 条目(19 个 TYPE 变体由套件自带 compile.all 遍历,driver 以 GEN_GOLDEN=0 调用:发布/CI 只取 ELF+diss,跳过现场 golden 生成);同时修复套件脚本的中断 bug:失败分支 echo 里中文全角括号紧跟 $TYPE,在 macOS 自带 bash 3.2 + set -u 下会把多字节字符并入变量名而报 unbound variable,导致第一个编译失败即中断整个脚本(修复前只能产出 1 个 ELF);并让脚本在存在失败用例时以非零码退出,便于 driver 如实标记。
  • 8e8d51fa / 1d32b513 test(topk): publish gfsim RES_CHECK ELF and matching disassembly —— 把 topk_tiled 的 gfsim RES_CHECK ELF 与其反汇编归档到 eval/topk/。该目录不参与编译矩阵,也不进入本发布包。

产出对比(vs ops-20261013)

  • microbenchmark:清单与上一版逐项一致(430 个,失败集合亦一致)。
  • one-level-arch:371 → 384,新增的 13 个全部来自 solution/quant/dynamic_mx_quant;无任何已有 ELF 被移除或改名。

回归状态

本 release 不含 gfrun 复测(按 2026-09-19 后的发布策略)。

发布物

文件 内容 ELF 数
supernpubench_microbenchmark_20261013.2.tar.gz microbenchmark 全部编译 ELF + .elf.diss 430
supernpubench_one-level_20261013.2.tar.gz one-level-arch 全部编译 ELF + .elf.diss(kernel 327 + solution 57) 384
合计 814

算子编译状态

microbenchmark(430 ELF / 24 编译失败)

算子 编译 ELF 编译失败 状态 说明
micro/scalar 124 0 全部编译成功
micro/vector 170 0 全部编译成功
micro/fixp 102 20 部分失败 122 例活跃变体,20 例失败清单与前几版逐例一致:MX 族(mx / mxbias / mxacc / mx_scale_a / gemv_mx* / mx_s8*)、f16_groupmax / s8_rowmax / shared_rowmax_init / shared_rowgroup_maxabs / shared_f16_groupmax / shared_s8_rowmax;均为 TileOP 契约断言
micro/memory 26 1 部分失败 mgather_cas_fp32_16x16(MGATHER_CAS 传输宽度,已有)
micro/cube 8 3 部分失败 3 例 tmatmul_bias_*(Bias CUBE_M 布局,已有)

one-level-arch / kernel(327 ELF / 46 编译失败)

算子 编译 ELF 编译失败 状态 说明
kernel/matmul 257 19 部分失败 matmul_lowp 11 例 256 KiB 容量断言(matmul_shared_lowp.hpp:109)、matmul_shared 7 例超限 static_assert、matmul_hif4_l1_quantize 1 例(TileOP TCVT 的 SrcDerivedRows == DstDerivedRows 契约)
kernel/fa 59 19 部分失败 15 例矩阵模式契约类(fa_2d_unroll_gmma 3 / fa_fixpipe 9 / fa_gmma_kchains 3),4 例 fa_lowp / fa_mxfp4_opt / fa_lowp_recip×2 为 TileOP TROWMAX reduction-prefix 路径 no member named 'PhysicalCol'
kernel/reduction 4 0 全部编译成功 cumsum_row / reducemax_row / reduceprod_row / reducesum_row
kernel/concat 2 0 全部编译成功
kernel/{broadcast,conv2d,element_wise,gather,vec} 5 0 全部编译成功
kernel/transpose 0 1 未编译产出 TTRANS 已退役(PTO-ISA 0.58.5)
kernel/{mxquant,multi_thread,hashtable_lookup,broadcast_vec} 0 — 未编译 不在 compile_all 矩阵内(kernel/mxquant 实测 plain 模式 4 个 testcase 均可编,如需纳入可另接)

one-level-arch / solution(57 ELF / 7 编译失败)

算子 编译 ELF 编译失败 状态 说明
solution/quant/dynamic_mx_quant 13 6 部分失败 本版新增纳入。19 个活跃 TYPE 变体中 13 个编译成功:全部 FP8 系列(tail/nontail × OCP/cuBLAS 的静态与 _dyn、splitN_dyn,以及 bench_small 的 V1/V2/V3 × static/dyn)。6 个失败均为 FP4 变体:TAIL_OCP_FP4、NONTAIL_OCP_FP4、TAIL_OCP_FP4_DYN、NONTAIL_OCP_FP4_DYN、NONTAIL_OCP_FP4_SPLITN_DYN、TAIL_OCP_FP4_BENCH_SMALL,报错均为 TileOP template_asm.hpp 的 static_assert(SrcDerivedRows == DstDerivedRows, "ordinary TCVT source and destination must have equal capacity-derived physical Rows")(触发点 fp32→fp4 的 TCVT(oq, xf)),与 matmul_hif4_l1_quantize 的失败同源,属工具链侧 TCVT 契约收紧
solution/normalization/rms_norm 4 0 全部编译成功 dynamic_simt_32k ×2、dynamic_tree_32k ×2
solution/normalization/group_norm_grad 4 0 全部编译成功 static/dynamic × {1d, 2d}
solution/matmul_test 3 0 全部编译成功 仅 4-PE(Local-A / Shared-B)
solution/{moe_dispatch,moe_combine,mega_moe} 9 0 全部编译成功 各 3 个
solution/quant_sparse_flash_mla 5 0 全部编译成功
solution/qli 4 0 全部编译成功
solution/group_token_vec 3 0 全部编译成功
solution/view_copy 3 0 全部编译成功
solution/gather_v2 3 0 全部编译成功
solution/group_token_old 2 0 全部编译成功
solution/conv2d 2 0 全部编译成功
solution/quant_batch_matmul_test 2 1 部分失败 mxfp4 单 PE 变体(Local MX ScaleA must use CUBE_M32 layout)
solution/normalization/rms_norm_split_r 0 — 归档未编译 已移入 normalization/rms_norm/V0/
solution/{common,tileop_test} 0 — 未编译 基础设施(共享校验脚本 / TileOP 测试)

说明

  • 每个 ELF 附带配对 .elf.diss(micro 430/430、one-level 384/384 校验通过)。
  • dynamic_mx_quant 的编译方式:driver 以 GEN_GOLDEN=0 调用套件脚本,只编 ELF+diss、不现场生成 golden(golden/精度校验需要时,在该目录直接跑 ./compile.all,默认 GEN_GOLDEN=1)。运行 4-PE 变体须 gfrun -s softcore.multiThreadNum=4。
  • excluded file types:.o / .d / .lds / .cache / logs;cw 默认不编译不入包;two-level 不支持。