Benchmark: 完成必选 MBA runtime 的最终 7-case 性能验收

[TATP-233]

Parent: #1259

Status: blocked on #1281. All activated performance implementation children are complete; this issue is the only final measurement/decision owner.

已完成前置

• Evidence / baseline：Benchmark: 测量 go2_joystick_flat / g1_walk_flat / g1_motion_tracking 的 collector 吞吐 #1253、排查：MBA reset / event manager 路径开销定位（reset_done 慢 5-6 倍） #1255、排查：MBA observation / update_state 路径开销定位（2.2-2.4 倍） #1256、排查：mujoco physics_ms 在 MBA 分支系统性偏高（+23-43%）归因 #1257、Benchmark: 固化必选 MBA runtime 的可复核 A/B 基线与性能门槛 #1260。
• Reset：perf: 限定 MotionCommand partial-reset 的全量重计算范围 #1261 / PR perf: scope MotionCommand partial-reset recompute to reset rows #1265；R2：perf: ObservationManager partial-reset 稀疏重建 (#1259 R2) #1269 / PR perf: scope partial-reset observation rebuild to reset rows #1270。
• Update：U1 perf: MBA update_state backend state/getter 单相位复用 (#1259 U1) #1272 / PR perf: reuse MBA backend state reads within update phase #1274；U2 perf: 优化 ObservationManager 正常 step 固定管线（#1259 U2） #1279 / PR perf: scan observation finiteness once per term #1280。
• MuJoCo/action：feat(mujoco_uni): BatchEnvPool 单次 dispatch per-substep control callback 能力 (#1259 M1a) #1266、perf: MuJoCo backend 接入单次 dispatch per-substep control (#1259 M1b) #1267 / PR perf: single-dispatch MuJoCo per-substep control via control_callback (#1259 M1b) #1275、perf: state-independent MBA action 跳过 per-substep callback (#1259) #1276 / PR perf: skip substep callbacks for invariant actions #1277。
• U3：perf: 优化 RewardManager term 累加管线（#1259 U3） #1278 已按 stop condition 完成 no-go 评估，不存在待合入实现。
• Production-like final head 清理：chore: 移除 #1259 优化期 MBA profiling 脚手架 #1281 尚未完成，是本 issue 的唯一代码前置。

整合后的剩余 TODO

• chore: 移除 #1259 优化期 MBA profiling 脚手架 #1281 合入 dev/issue-1042-manager-based-api，固定 final MBA SHA，并确认工作树/配置不再变化。
• 固定 Benchmark: 固化必选 MBA runtime 的可复核 A/B 基线与性能门槛 #1260 的 main direct SHA 60c2ce7 与 final MBA SHA；记录硬件、OS/kernel、Python、NumPy、Torch、MuJoCo、mujoco-uni-runtime、Motrix、线程和 Hydra owner 配置。
• 按 Benchmark: 测量 go2_joystick_flat / g1_walk_flat / g1_motion_tracking 的 collector 吞吐 #1253 的 7 个 case，对两侧各执行至少 3 次独立运行；正式跑数串行，保存原始 JSON/CSV，不静默跳过。
• 报告 collector throughput、physics、update_state、reset_done 的 median 与离散度，以及相对 Benchmark: 固化必选 MBA runtime 的可复核 A/B 基线与性能门槛 #1260 起点的最终收益。
• 核对所有 final MBA case 仍走 MBA factory/lifecycle，无 direct fallback、模式开关、case 删除或配置偷换。
• 明确记录产品决定：90% 工作目标是否为最终 gate；sac/g1_motion_tracking/motrix 的高漂移如何处理；接受的例外清单。
• maintainer 明确决定是否允许 dev/issue-1042-manager-based-api 进入 dev → main 集成 gate。

条件候选，不是当前 TODO/阻塞项

MotionCommand 正常 step、runtime-aware chunk tuner、tracking sensor 按需 materialization 均未被 #1259 激活，不阻塞本 issue。只有最终数据未达已确认 gate，且 maintainer 选择继续优化时，才按一个主要结果一个 issue 另行拆分；不得在本测量 issue 中实现。

最小交付结果

在固定 final MBA dev SHA 与 #1260 的 main direct SHA 上，按同一硬件、软件和参数完成最终 7-case A/B，逐 case 给出通过、失败或 maintainer 接受的例外，并形成 #1042 是否进入集成 gate 的明确决定。

Non-goals

• 不在本 issue 修复性能、清理 profiling、修改 benchmark 或调整配置。
• 不新增 CI/dashboard/长期 artifact 系统或 support claim。
• 不因某 case 未达门槛而删 case、降 num_envs 或改变 MBA 语义。

Owner、规模与永久维护成本

• Owner：Env performance + Roadmap: 将 UniLab 迁移为社区通用的 Manager-Based API #1042 maintainer。
• 纯测量和产品决策记录，零代码、零 PR、零新增长期维护设施。

Acceptance criteria

• 上述 TODO 全部完成，所有原始结果、SHA、环境、命令与离散度完整。
• 每个 case 明确标为通过、失败或 maintainer 接受的例外。
• 已激活 child 的完成 SHA、验证、收益与 U3 no-go 结论得到汇总。
• MBA production 路径及 community-compatible 行为保持不变。
• maintainer 对 dev → main 集成 gate 作出明确决定。

Stop conditions

• chore: 移除 #1259 优化期 MBA profiling 脚手架 #1281 尚未完成，或 final SHA/配置仍在变化。
• 复测需要改代码、benchmark 语义或 MBA/direct 配置。
• 重复运行波动无法支持通过/失败判断；此时只报告证据并请求 maintainer 决策，不自行调整 gate。

[TATP-233]

Final 7-case A/B：测量已完成，产品决策待 maintainer

固定版本与运行环境

• main direct source：60c2ce7ce13a6d5078b342d598d590e1023a5f76
• final MBA source：e6f136d4ef9fb560b71aa7f738c80fc0b377d79f（PR chore: remove temporary MBA profiling scaffolding #1285 merge commit；tree 与已验证的 65546bbe 相同）
• 硬件：AMD Ryzen 9 9950X3D2，16C/32T；60.5 GB RAM；NVIDIA RTX 4090 48 GB
• OS/kernel：Linux 7.0.0-30-generic
• Python 3.13.14；NumPy 2.4.4；Torch 2.7.0+cu128
• MuJoCo 3.10.0；mujoco-uni-runtime 0.4.0；motrixsim-core 0.8.2
• Torch collector threads：显式 UNILAB_COLLECTOR_TORCH_THREADS=8

为满足“同一软件”要求，两侧复用同一个 final .venv；分别以 detached worktree 的 src 置于 PYTHONPATH 首位，已打印验证实际加载路径和 SHA。因而 direct 的源码仍是 60c2ce7c，但本次与 final MBA 一样使用 runtime 0.4.0；#1260 旧批次两侧使用的是 0.3.1，跨批次绝对值比较需注意这一软件变化。Hydra 配置仍来自各自 SHA 的 branch-local owner YAML，没有替换配置。

运行口径

• 每侧 3 次独立运行，先 direct 3 轮，再 MBA 3 轮；全部严格串行
• 每轮固定 7 case；8192 env；warmup 10；measure 100 vector steps；replay capacity 64 steps
• 未使用 --continue-on-error；42/42 case 全部成功
• 12 个原始 artifact（6 JSON + 6 CSV，gitignored）：
  • scripts/benchmark/outputs/offpolicy_collector_active/issue1263_direct_60c2ce7c_run{1,2,3}.{json,csv}
  • scripts/benchmark/outputs/offpolicy_collector_active/issue1263_mba_e6f136d4_run{1,2,3}.{json,csv}
• 以下离散度为 3 个“每轮 100-step mean”的 population CV；同时报告 [min,max]

Collector throughput

“90%”列仅表示：如果 maintainer 确认 90% 为最终 gate 时的机械分类。

Case	direct median [min,max], CV	MBA median [min,max], CV	MBA/direct	90%	MBA vs #1260 起点	ratio #1260→final
flashsac/go2_joystick_flat/mujoco	310,088 [306,819,310,523], 0.53%	250,756 [250,553,251,102], 0.09%	0.809	FAIL	+24.7%	0.644→0.809
flashsac/g1_walk_flat/mujoco	113,750 [112,975,113,823], 0.34%	88,393 [87,611,88,465], 0.44%	0.777	FAIL	+43.3%	0.542→0.777
flashsac/g1_walk_flat/motrix	97,877 [97,606,98,814], 0.53%	84,303 [82,367,86,435], 1.97%	0.861	FAIL	+3.4%	0.809→0.861
sac/g1_walk_flat/mujoco	110,718 [109,807,111,069], 0.48%	91,327 [90,931,91,850], 0.41%	0.825	FAIL	+37.8%	0.599→0.825
sac/g1_walk_flat/motrix	93,806 [93,805,99,783], 2.94%	85,805 [80,674,85,843], 2.89%	0.915	PASS*	+15.0%	0.731→0.915
sac/g1_motion_tracking/mujoco	82,787 [82,601,83,051], 0.22%	70,463 [70,298,70,876], 0.34%	0.851	FAIL	+31.7%	0.651→0.851
sac/g1_motion_tracking/motrix	85,615 [85,395,85,732], 0.16%	63,118 [62,639,63,507], 0.56%	0.737	FAIL	+57.4%	0.454→0.737

PASS* 对 batch drift 敏感：该 direct case 相对 #1260 direct median 低 8.1%，且两侧 CV 约 2.9%。其余 current direct 与 #1260 direct 的差异为 -3%～+1%。若采用 90% gate，当前结果是 1 PASS / 6 FAIL。

Physics ms / vector step

Case	direct median [min,max], CV	MBA median [min,max], CV	MBA-direct
flashsac/go2_joystick_flat/mujoco	22.513 [22.449,22.816], 0.71%	23.313 [23.251,23.439], 0.34%	+0.800
flashsac/g1_walk_flat/mujoco	64.773 [64.764,65.291], 0.38%	74.148 [74.070,74.267], 0.11%	+9.374
flashsac/g1_walk_flat/motrix	72.524 [72.112,72.863], 0.42%	73.511 [72.998,75.361], 1.37%	+0.988
sac/g1_walk_flat/mujoco	64.671 [64.470,65.140], 0.43%	71.042 [70.798,71.633], 0.49%	+6.371
sac/g1_walk_flat/motrix	72.411 [71.942,72.700], 0.43%	73.701 [73.540,73.918], 0.21%	+1.289
sac/g1_motion_tracking/mujoco	72.521 [72.313,72.843], 0.30%	69.402 [69.320,69.835], 0.33%	-3.119
sac/g1_motion_tracking/motrix	69.236 [69.147,69.529], 0.24%	67.625 [66.895,67.646], 0.52%	-1.610

update_state ms / vector step

Case	direct median [min,max], CV	MBA median [min,max], CV	MBA-direct
flashsac/go2_joystick_flat/mujoco	2.924 [2.910,2.933], 0.33%	7.180 [7.164,7.274], 0.67%	+4.255
flashsac/g1_walk_flat/mujoco	3.024 [3.012,3.069], 0.80%	8.656 [8.581,8.685], 0.51%	+5.631
flashsac/g1_walk_flat/motrix	5.763 [5.264,6.052], 5.72%	13.396 [11.770,14.505], 8.49%	+7.633
sac/g1_walk_flat/mujoco	5.079 [5.074,5.223], 1.35%	8.640 [8.575,8.725], 0.71%	+3.561
sac/g1_walk_flat/motrix	9.913 [4.728,10.151], 30.28%	12.472 [12.053,15.310], 10.90%	+2.559
sac/g1_motion_tracking/mujoco	14.633 [14.606,14.650], 0.12%	30.199 [29.667,30.449], 1.08%	+15.566
sac/g1_motion_tracking/motrix	16.540 [16.223,17.046], 2.04%	39.914 [39.496,40.889], 1.46%	+23.375

reset_done ms / vector step

Case	direct median [min,max], CV	MBA median [min,max], CV	MBA-direct
flashsac/go2_joystick_flat/mujoco	0.002 [0.002,0.002], 2.08%	0.004 [0.004,0.004], 1.63%	+0.002
flashsac/g1_walk_flat/mujoco	2.358 [2.342,2.358], 0.32%	5.147 [5.146,5.236], 0.82%	+2.789
flashsac/g1_walk_flat/motrix	2.619 [2.518,2.639], 2.05%	6.787 [6.745,7.580], 5.46%	+4.168
sac/g1_walk_flat/mujoco	2.420 [2.380,2.435], 0.97%	5.291 [5.199,5.295], 0.85%	+2.871
sac/g1_walk_flat/motrix	2.524 [2.326,2.664], 5.53%	6.669 [6.587,9.584], 18.31%	+4.145
sac/g1_motion_tracking/mujoco	5.562 [5.538,5.564], 0.21%	10.289 [10.254,10.292], 0.17%	+4.727
sac/g1_motion_tracking/motrix	6.143 [6.110,6.169], 0.39%	17.005 [16.603,17.598], 2.39%	+10.863

MBA factory / lifecycle / 配置审计

对 final SHA 用每个正式 case 的同一 compose + BackendAdapter 路径实际构造 env（非仅静态 grep）：

• Go2：make_manager_based_rl_env → ManagerBasedRlEnv
• G1 walk：make_g1_walk_env → G1WalkManagerBasedEnv（ManagerBasedRlEnv 子类）
• G1 motion：make_manager_based_rl_env → ManagerBasedRlEnv
• 7/7 均通过 isinstance(env, ManagerBasedRlEnv)；MuJoCo/Motrix 实例分别为 MuJoCoBackend / MotrixBackend
• 7/7 均建立 Action、Observation、Reward、Termination、Event、Command manager
• 3×7 final JSON 中请求的 case.sim 与 runtime_sim_backend 全部一致，args.override=[]，7 case 无删除、无 direct fallback、无模式开关或 Hydra 配置偷换

已激活 child 汇总

Child	final / merge SHA	Owner 结果与验证
#1261 / PR #1265	6c8ab882 / 101b6a29	MotionCommand partial reset compute：MuJoCo -77%、Motrix -74%；parity；make test-all
#1269 / PR #1270	11bb0ac3 / 9198bbd3	row-scoped reset obs：obs_build -48%/-33%，reset total -17%/-20%，collector +8%/+16%；bitwise/RNG parity；make test-all
#1272 / PR #1274	476003e7 / bf619fc1	U1 getter cache：主要 getter -26%～-64%，隔离 paired Motrix walk 无可重复 collector 退化；2207 passed + 全 gate
#1266 upstream M1a	e73e89a + c96290d, runtime v0.4.0	callback API；37 tests；逐 substep parity atol=1e-12, rtol=0
#1267 / PR #1275	a8c93060 / 70836033	MuJoCo single-dispatch callback：walk physics -6.1% / collector +8.3%；motion -1.9% / +2.1%；2194 passed + 全 gate
#1276 / PR #1277	27e092bc / bf8bc682	invariant action 跳过 callback：代表 walk/MuJoCo physics -25.8%、collector +29.3%；2216 passed + 全 gate
#1279 / PR #1280	c78ee7e / abef0dac	U2 finite-check -42.9%～-46.1%，无可重复 collector 退化；bytes/RNG 一致；2220 passed + 全 gate
#1278 U3 no-go	profile head bf8bc682	RewardManager 固定路径约 0.10 ms，安全候选约省 0.02 ms，collector 理论收益 <0.08%；低于噪声，不改代码/不建 PR
#1281 / PR #1285	65546bbe / e6f136d4	移除临时 profiling +20/-700；MuJoCo/Motrix 37 arrays bit-exact；2221 passed + 本地/远程全 gate；吞吐变化 -2.48%～+1.33%

当前结论与需要的 maintainer 决策

• 所有 final MBA case 都保持 production MBA 路径与 community-compatible 行为。
• 相对 Benchmark: 固化必选 MBA runtime 的可复核 A/B 基线与性能门槛 #1260 初始 MBA，7 case 吞吐均提升，范围 +3.4%～+57.4%；MBA/direct ratio 从 0.454–0.809 提升到 0.737–0.915。
• current sac/g1_motion_tracking/motrix 三轮 62.6–63.5k、CV 0.56%，本批稳定；但历史上已有 38–44k、50k outlier 与 63k 批次，batch-level drift 事实仍成立。

请 maintainer 明确决定：

1. 90% 工作目标是否成为最终 gate；若是，是否接受当前机械分类 1 PASS / 6 FAIL。
2. sac/g1_motion_tracking/motrix 是按当前稳定批次判 FAIL、追加运行，还是列为明确例外。
3. 例外 case 清单（当前尚无已批准例外）。
4. 是否允许 dev/issue-1042-manager-based-api 进入 dev → main 集成 gate。

在这些产品决定给出前，本 issue 保持 open；测量、原始证据、runtime 审计和 child 汇总已经完成。