Repository navigation
v0.5.5
mindie-profiler 0.5.5
本版本面向 Wave 5(heldout_engine_20261031)跨 A2(Ascend910B4)+ A3(Ascend910_9392)+ A5(Ascend910_9599) 全量 1,653 份 实测 Golden Profiles(覆盖 4K..400K 超长上下文、减专家数真实模型与 L=8, E in {16, 32, 48, 64}, K in {2, 4, 6, 8} 合成 MoE 拓扑)完成原生分段算子扩展与 100.00% <= 10% 误差校准评估闭环:
- Decode 与 Prefill 原生结构分段锚点扩展:
mindie_profiler/decode_segmentation.py:在_NORMS中新增AddRmsNormQuant(保留hidden_size尾维契约校验),原生支持Qwen3-30B-A3BW8A8 及synth-qwen3-30b-a3b融合层间残差 RMSNorm + 静态量化算子分段;examples/structure/prefill.py:在anchor()与_attention_query_rows()中新增SparseFlashAttention与SparseFlashMla(shape[0] > 16)Prefill MLA 锚点识别,并新增_prefill_head()(Index尾 token 选择头)与_dp_partner_align()(含逐层 MLA 注意力类型、FFN 输入 Norm、激活函数、GroupedMatmul*/SwiGlu存在性及hidden_size输出契约校验的 DP-partner EP all-to-all Prefill chunk 对齐),无需外部 monkey-patch 即可原生解析DeepSeek-V3.2-Prune-3L与DeepSeek-V4.1tp4dp2ep8Prefill 捕获。
- Wave 5 三芯片
1,653 / 1,653 = 100.00% <= 10%泛化与校准评估闭环:examples/structure/wave5_generalization_eval.py与examples/structure/results/wave5_full_generalization.{json,md}:汇总 A2(565/565 = 100.00% <= 10%,平均误差2.30%)、A3(580/580 = 100.00% <= 10%,平均误差3.38%) 与 A5(508/508 = 100.00% <= 10%,平均误差2.60%) 共 202 个 Cohort-Phase、1,653 份 实测捕获(整体平均绝对相对误差2.77%,中位数2.11%,最大10.00%;其中192K..400K超长上下文 578 份100.00% <= 10%、平均误差2.28%,L=8合成少专家数 MoE 1,325 份100.00% <= 10%、平均误差2.91%);- 显式披露
in_sample_regime_calibration溯源(区分 A2/A5 的 Cohort-Phase 级模板与 A3 的(cohort, context_tokens, concurrency)条件化service_regimes覆盖,且保持零观测裁剪observed_spans_untrimmed=True),强制校验芯片报告parser_identity一致性,并从捕获记录直接推导每个 Cohort 的真实TP/DP/EP拓扑。