Repository navigation
Replies: 3 comments
|
历史存档:2026-10-20 重写前版本。 为保留原判断与纠错关系,完整保存旧文。当前结论请看本讨论主帖及原技术评论的更新版本。 展开重写前主帖蒸馏结论:DexLab 值得增加一种评估视角——上层给出的交互要求,经过控制器、观测和仿真之后,是否产生了可区分、可测量的物理效果。 这可落在现有实验协议与证据链中;目前没有证据支持直接把项目扩展成“通用 S0 训练框架”。 本文由单一 AI 助手按维护者请求使用 原文提出了什么Haoyang Weng 的 Beyond Motion Tracking: Steerable Physical Interaction Competence 主张:上层要能表达交互要求,低层则要有响应接触与载荷变化的能力;只传身体运动可能丢失目标接触效果。其 S1/S0 是功能划分,不要求固定为两个独立模型。这是一篇研究观点文章,不是已经完成通用控制器验证的实验报告。 以下主要讨论可迁移机制与对该论点的核查,不复述整篇文章。原文 HTML 快照 SHA-256: 核查后需要保留的区别1. 响应式操作,不等于低层必须直接接收视觉。 Workhorse 论文 §IV-C 明确给出 tracker 的本体观测,图像由 planner 使用;§IV-C.3 则描述了交互训练中的载荷近似/物体模型。因而它支持“训练或控制需要考虑交互影响”,不能被当成“低层直接输入场景视觉是必要条件”的证据。某些扰动能通过本体反馈影响低层,外部状态变化则可能仍需上层感知;应逐种扰动检查信息路径。Workhorse 论文,§IV-C–D,印刷页 5–6 该项目官网还明确说每个任务有各自的 planner 和 tracker。这提醒我们分别核查单任务能力、共享接口和共享策略,不把它们混成同一个“通用性”结论。Workhorse 官方项目页 2. HDMI 有接触条件化实现,但目前检查到的这一支不等于任意力控制。 当前配置提供接触输入、接触奖励和丢失接触终止的逐层变体;接触输入档同时加入参考接触标签和实际接触标志。因此它提供了有用的实验拆分,但这个单独对照仍不能区分“目标信息”和“反馈信息”各自的收益。输入配置、奖励配置、终止配置 其标签语义是需要接触/禁止接触/不约束,奖励按接触力幅值做饱和匹配。奖励中的饱和力不是上层可任意指定的目标 wrench,也不是力上限保证;“不约束”也不能被评分器解释成“禁止接触”。这些是源码事实,尚未在本轮执行验证。接触实现 3. 点云这个名字,不能代替观测来源审计。 所检查的 4. 丰富的指令、潜变量和动力学能力,各有证据边界。 Steerable Policies 用更丰富的子任务、运动和空间指令训练 VLA,支持“接口表达会影响上层对策略的使用”;该项目的这类结果不能直接证明低层接触力控制。Steerable Policies 官方说明 BFM-Zero 则展示了利用共享潜空间组织、插值和选择行为的路线,不能简单概括成“latent 没有用”。原文关于重新编码不增加独立控制要求的论证,限定于相同编码器/解码器及编码器可达的 latent;换训练目标、扩大可达行为或另行搜索,需要单独实验。BFM-Zero 官方说明、原文 Q2 5. 不把 sim-RL 当成唯一解。 Boston Dynamics 的一手说明用显式模型和 MPC 共同考虑机器人、物体及交互力。对于 DexLab,传统力/阻抗控制也适合作为可解释基线;应评估反馈是否有效,而非先要求控制器必须是学习策略。Boston Dynamics:Picking Up Momentum 这些核查支持一个较窄、也更有用的研究问题:某类交互到底缺的是指令表达、可用观测、控制能力,还是可信的物理响应? 视频观感与受限挑战可以启发问题,尚不足以对模型类别给出普遍能力排序。 对 DexLab 的具体迁移DexLab 已经区分命令、原生读回、独立评分,并在
这些建议补充 #189 的任务到可信仿真入口,并与 #220 的耦合讨论相接:上层能表达接触要求,仍需检查这些要求经过控制和求解后是否保真。 一个小而可辨别的验证提案建议先复用已有法向加载/卸载案例审计记录,再设计一个单自由度接触控制案例。第一阶段离线检查只能证明记录是否足够;它本身不证明在线反馈能力。完整手内重定位留作后续任务,不用它同时承载所有未知问题。 候选问题:保持相同切向路径或物体目标时,系统能否按要求区分轻接触、较强按压与释放,并在规定扰动下维持这些区别? 这里不强求所有自由度上的实际轨迹完全一致:法向位置、接触力和柔顺性可能相互约束,需要声明优先级,允许必要位移或明确拒绝不可行要求。
先用简单、可解释的控制器验证协议即可;它通过只证明该基线在给定条件下可用。若更换控制器,不能再称单独的接口消融。未来比较学习策略时,还要匹配训练数据、预算与模型条件;删除输入可能造成分布外状态,应与在相应观测下训练的对照分开。 评分可以覆盖接触力跟踪误差与超限时长、保持/滑移、释放后的残余力、扰动恢复和总计算成本。数值阈值需根据任务与物理参照事前冻结,本提案不从演示或其他机器人照搬。任务评分不由策略自行修改。 当前建议与尚待决定的点
这次蒸馏最有用的输出,是把“交互能力不足”拆成可以分别检查的原因。讨论不改变 current-work 的顺序,也不恢复后台开发或启动训练。 English summaryThe proposed DexLab contribution is an auditable path from interaction requirements to measured physical effects. Separate command expressiveness, available observations, controller capability and simulation fidelity instead of attributing every failure to a weak policy. Source inspection also narrows the examples. Workhorse does not establish that direct visual input to the tracker is necessary. HDMI provides contact-conditioning variants, but their existence does not establish arbitrary wrench control or deployable visual sensing. The references above distinguish these claims from author reports and current source facts. Start with existing contact records and a bounded, interpretable control case. Test command-dependent effects separately from disturbance recovery, retain timing and observation provenance, and freeze held-out conditions before tuning. Training a general S0 is not required for that first study. This is a single-assistant research proposal; no new runtime evaluation or training has been performed. |
|
追问:对照 DexLab,HDMI 的仿真是不是“不够准”? 目前不能据此断言 HDMI 仿真不准,更不能推出 DexLab 更准。更有依据的判断是:HDMI 已报告部分交互任务的真机迁移;我们检查到的接触奖励与任务结果,尚不能证明接触力、柔顺性和滑移边界得到定量验证。 这个区别值得 DexLab 继续研究:仿真中的哪些误差不妨碍任务完成,哪些误差会让策略学会现实中行不通的动作? 先把两个版本分开。 2025 年 HDMI 论文明确使用 Isaac Sim 训练和评估,并报告 G1 真机连续完成 67 次开门穿行。这是有价值的任务迁移证据,不能因为没有逐接触测力就将其抹去。但它也不能直接给出接触力或材料参数的误差范围。论文 §IV–V 本帖关联的当前 HDMI 仓库已经是另一套实现:MjLab 与作者的 MuJoCo-Warp 分支,环境文件固定了具体依赖修订。旧论文的实验结果不能直接当作这套新代码的验证结果;“Isaac Sim”和“MjLab”也不能直接作为物理准确性的排名依据。当前 README、依赖配置 当前代码中,最关键的边界是:奖励接触,不等于校准接触物理。
这项设计能告诉策略“该建立接触了”,但 5 N 是奖励饱和阈值,不是物体总夹持力目标,也不是安全力上限。实际接触反馈则把模拟器读回的连杆接触力模长与阈值比较,得到接触标志。它证明控制管线使用了模拟接触信息,没有证明这些力已经与实测力对齐。力读取与奖励、接触标志 所以,用户指出的风险确实存在:策略可能完成搬运,却没有学会区分“刚好握住”和“握得过紧”;也可能适应了某组仿真摩擦与柔顺参数,换到真实接触条件后失效。 这是需要验证的机制假设,不能仅凭奖励公式认定作者已经出现了这些失败,更不能把它当成求解器有错误的证据。 DexLab 自己的记录正好说明,为什么需要把这些问题分开。 已有法向加载—卸载案例,在同一个 MuJoCo 场景中使用声明的 20 kN/m 合成响应目标。初始配置测得的等效刚度约为 80.0 kN/m:4 N 加载窗口的接触力仍约为 4 N,力平衡检查通过,但几何压入约为 0.050 mm,而目标响应是 0.200 mm。调整接触参数后,测得刚度约 20.02 kN/m,该窗口压入约 0.1997 mm。协议与目标来源、保留的初始失败与修正记录 这个结果的意义是:接触力能平衡载荷,不代表力—位移响应符合目标;同一引擎也可能因配置不同而有明显差异。 但这里的目标是合成工程目标,几何压入也不是已测得的真实指腹形变。它不证明真实材料校准,更不是 HDMI 的误差测量。现有记录属于历史候选的集成复验,不能改称新的留出验证。 两边目前更适合这样比较:
DexLab 的价值在于把误差拆开、测出来,并判断它是否影响任务。它本身不是一个比 MuJoCo-Warp 或 Isaac Sim “更准”的求解器。已有职责分配也把场景与引擎运行交给 UniSim,把实验协议、控制输入、记录和独立评分留给 DexLab。研究重点及校准边界、已采纳的职责分配 另外,DexLab 确实记录过特定 MuJoCo-Warp 路径的支撑动量诊断失败;但那批模型、运行组合、接触读回和阈值不同,文档也没有将其归因为已确认的引擎缺陷。它可以提示我们检查哪些量,不能直接移植成“HDMI 不准”的结论。诊断范围与未解决归因 建议先延续主帖的小型法向接触案例,验证“接触标签掩盖了多少物理差异”。
这一步可以先用可解释控制器完成,无需先复现整套人形 RL 训练。若原后端在合理参数和成本内就能匹配参考,应优先修正配置;只有出现稳定、可复现的模型表达缺口或误差—成本瓶颈,才有理由比较其他接触模型或求解器。增加引擎数量本身不是答案。 本次提出的比较不沿用 #220 中针对特定 MuJoCo–SuperDex 外部耦合示例的反力延迟结论;那是另一条实现路径,需要分别核查。 核查范围。 2026-10-20,单一 AI 助手核查论文 v3、HDMI English summary HDMI's original paper reports task-level sim-to-real evidence, while the inspected current MjLab/MuJoCo-Warp code is a separate implementation. Neither that transfer evidence nor a saturated contact reward establishes calibrated contact forces, compliance or slip thresholds. The inspected reward gives the same positive-contact contribution once a selected body's force magnitude reaches 5 N; this is neither a total grip-force command nor a safety cap. DexLab's own normal-load records illustrate the distinction: force balance can pass while displacement differs substantially from a declared synthetic response. Those records do not establish real-material accuracy or measure HDMI's error. DexLab provides a way to investigate this gap, not evidence of blanket simulator superiority. Prioritize a small normal-contact experiment: measure response under fixed loading, test frozen closed-loop behavior under controlled parameter changes, and validate against independent references. Start with the existing backend; consider another contact model only when evidence identifies a concrete limitation. No new simulation or hardware experiment was performed for this comment. |
|
补充讨论:怎样理解“蒙眼”的比喻,以及 DexLab 的调参例子究竟证明了什么 结合中文全文,值得把批评集中到一个具体问题:作者提出的交互能力,应当怎样被分别测量和解释? 不能把文章简化成“S0 不看图像,所以整个系统没有闭环”,也不能用 DexLab 的一次参数校准,推出 HDMI 的物理不准确。 1. 原文的重点包括执行能力,不能只盯着“有没有看环境”。 “蒙眼”比喻之前,作者已经描述了环境信息经 S1 更新运动参考、再影响 S0 的路径;随后又讨论了缺少物体交互训练的限制。后文进一步提出接触意图,Q4 也允许 VLA 整合 S1/S0 功能,并承认行为克隆可以学会快速响应。因此,用“分层控制也能闭环”反驳整篇文章,会漏掉它关于能力和指令表达的主张。原文第 1 节、接触意图、Q4 可以保留的批评是:这个比喻容易把注意力集中到场景输入,而观测不足、交互训练不足和指令表达不足是三个不同问题。增加场景输入、增加交互训练、丰富接口,分别带来了什么收益,需要受控比较。不同任务、硬件和训练条件下的视频可以提出研究动机,尚不足以确定哪个因素构成主要瓶颈,或决定唯一的架构选择。 例如,机器人伸手前盒子被移位:更及时的上层参考更新和低层直接接收物体状态,都可能改善结果。应当在明确的任务、信息条件和延迟预算下比较。至于接触后的负载扰动,还需检查本体、力或触觉反馈能否提供所需信息;不能把所有交互反馈都等同于 RGB 输入。 2. 与《Is Ego Status All You Need…》的联系,在于检验信息的实际作用。 CVPR 2024 这篇论文在 nuScenes 开环评测中发现,依赖自车状态及驾驶指令的简单模型,在既有指标上就能取得竞争力;对 VAD 的图像置空后,感知指标失效,规划指标的退化却相对有限。它提示我们检查数据捷径、输入作用和评分指标,而不是只检查网络有没有接入视觉。论文表 1–2、§4.3 这里的 open-loop 指日志上的离线评测方式,与“S0 是否直接接收场景”是不同维度。该论文不能证明人形机器人的低层不需要场景输入,也不能直接否定作者的交互能力主张。 对 DexLab,有用的借鉴是:保持机器人初态和任务目标相同,施加物理合理的环境变化,观察控制是否及时且正确地改变。 再通过训练条件匹配的输入消融,区分哪些反馈真正有用。仅在推理时删掉输入造成失败,还可能包含分布变化的影响。 3. 澄清上一条评论的法向加载案例:调整了接触模型的柔顺性。 在此前的物理比较评论中,提到了 4 N 下压入量从约 0.050 mm 变为 0.1997 mm。其候选参数变化具体是: 这组候选只改变了
参数改动与运行时有效值相符,数据见冻结记录。20 kN/m 来自预先声明的合成工程目标,不是同装置实测材料值。 因此,这个案例支持“将模型响应调到指定柔顺性”,不支持“发现并修复了 MuJoCo 求解错误”。 初始响应只是不符合该工程目标;没有实测参考,就不能说调整后更符合真实材料。几何压入也不能直接当作真实指腹形变。 它对当前讨论仍然有用:两组配置都能平衡 4 N 载荷,但位移响应显著不同。一个只检查“有没有接触、有没有支撑住”的指标,会漏掉这种差异。至于差异是否会改变策略行为或真机任务结果,需要进一步实验;这组记录没有回答,也没有测量 HDMI 的误差。 4. DexLab 可以把文章的方向转化成三个可检验的问题。 沿用主帖提出的“接触平面—保持—释放”小案例,先用可解释控制器建立参照。下面是建议,尚未执行:
要让法向力可调,应允许法向位移随接触调整,不能要求任意位置和力同时精确满足。研究学习策略时,还应把输入、训练经历和接口分别比较。 接触参数变化通常改变模型响应;步长和求解精度变化用于研究固定模型的数值敏感性,两者要分开。不同引擎的结果也不能自动作为彼此的真实参考。取得同装置实测曲线后,再区分参数辨识数据与未参与拟合的预测验证,才能讨论真实物理误差。DexLab 的现有研究与校准边界 我建议优先问:哪些物理差异会改变所需动作、成功条件或策略评价,哪些差异可以被控制器容忍? 这比先决定增加视觉、训练通用 S0 或更换引擎,更容易形成可解释的下一步。若简单反馈已能解决具体问题,就保留简单方案;若证据显示缺少必要信息或交互能力,再针对性增加。 范围与来源。 2026-10-20,单一 AI 助手重读中文原文,核对上述论文、官方参数说明及 DexLab English summaryThe blindfold analogy should be read alongside the article's discussion of interaction training and intent. The author explicitly describes the S1-to-S0 feedback path and allows the two functions to be integrated. A fair critique asks how much benefit comes separately from observations, training experience and interface expressiveness. The ego-status paper motivates testing the actual role of environmental information; its open-loop evaluation setting is not equivalent to a low-level controller lacking direct scene input. The DexLab example changed only the first For DexLab, separate command following, disturbance response, model sensitivity and numerical sensitivity. Start with a small normal-contact case and an interpretable controller. These are proposed comparisons, not newly executed experiments. |
Uh oh!
There was an error while loading. Please reload this page.
Uh oh!
There was an error while loading. Please reload this page.
这篇文章最值得借鉴的一点是:机器人“动作跟得像”,并不等于“能按要求与物体接触”。对 DexLab,这意味着要分别检查两种能力:要求变了,它会不会改变接触效果;环境变了,它能不能仍然满足原要求。
用擦桌子理解作者的问题
设想同一条沿桌面移动的擦拭路径,我们给机器人三个要求:轻轻碰着、用力压着、离开桌面。手沿桌面移动的方向可以相同,但需要的法向接触力不同。
如果上层只说“手沿这条轨迹走”,低层收到的信息不足以区分这三个要求。仅仅把动作跟踪得更准,也不会自动补上被省略的意图。我们还需要告诉它想怎样接触,并让它根据真实反馈调整动作。例如海绵更软时,为了维持同样压力,可能需要压得更深。
这个例子用于解释原文观点,并非作者的一项实验;也不要求位置和力可以任意同时指定。若要调节压力,就应允许法向位移随接触情况调整,或明确报告目标不可兼容。
Haoyang Weng 的 原文把“表达意图”和“执行接触”的职责称作 S1、S0。这里先把它们理解成上层与低层即可;不必预设两个独立神经网络。文章提出的是研究方向,尚不是一个通用控制器已经通过验证的报告。
两个容易混淆、却应该分开的能力
第一项关心“可不可以让它做不同的事”,第二项关心“条件变了还能不能做好同一件事”。只看一次成功视频,很难知道系统具备的是哪一种。
这也让失败更容易定位:上层没表达接触要求,先补指令;要求表达了,但观测不到关键变化,先查反馈;信息都有了仍调不好,再查控制器和物理响应。没有理由把所有失败都先归因于策略网络不够强。
相关实现给了什么启发,又没有证明什么
HDMI 提供了一种有用的表达起点:把“该不该接触”写进目标。 当前代码区分“需要接触、禁止接触、不约束”,其中“不约束”不是“禁止”。这比只给一条动作轨迹多了独立的交互要求。不过,这套接触标签本身还不能表达“请维持某个指定压力”:相应奖励使用的是接触力的饱和匹配,不能把奖励参数当成任意目标力或安全力上限。HDMI 接触实现
HDMI 的一个配置还同时加入目标接触标签和实际接触反馈。这样可能改善效果,但单独比较这个配置,无法判断收益来自“终于说清要求”,还是“终于看到了反馈”。DexLab 值得借鉴标签表达,并把目标信息和反馈信息分开比较。 输入配置
反馈有用,也不等于低层必须直接看图像。 Workhorse 的论文中,图像由上层使用,动作跟踪器使用本体观测,并在训练中考虑物体交互。因此这个例子不能证明“低层直接输入视觉”是必要条件;不同扰动需要什么信息,应具体检查。其官网也明确每个任务有自己的 planner 和 tracker,不能把多个任务展示当作单一通用策略的证明。Workhorse 论文 §IV-C–D、官方说明
我的判断是:文章把一个容易被忽略的接口问题讲出来了,但相关案例还不足以决定唯一的模型结构。我们可以先采用这个提问方式,不必先接受“要训练一个通用 S0”的工程目标。
DexLab 的第一步:做一个能听懂轻触、按压和释放的小案例
建议先用简单的法向接触控制,而非一开始就上完整手内操作。上层给出轻触/按压所对应的目标力范围,或释放要求;低层根据测得的力调节法向动作。先用可解释的经典力控或阻抗控制器,就能检查整条路径是否成立,学习策略可以随后作为比较对象。
DexLab 已有加载—卸载记录、参数记录和控制目标/力的时间记录,可以复用这些基础;既有离线曲线不能替代这个在线控制案例。此次建议比“把记录整理好”多了一步:必须实际让不同指令产生不同效果,再看反馈是否帮它抵抗变化。试参记录实现、控制与力的时间记录
最小比较分两轮:
具体力范围需要由案例的物理条件确定,不能从演示里抄一个数。将来比较学习策略时,还要匹配训练条件;简单删掉一个输入造成的失败,可能只是策略遇到了训练时没见过的状态。
一种反对意见是:这太基础,看不到文章里人形机器人操作的规模。我的取舍是先接受这个限制——小案例可以分清是指令、反馈还是接触模拟出了问题;直接上复杂任务,失败时又会只剩一句“策略不行”。如果小案例已经能把这些原因分开,再加入滑移、换指和多点接触才有清楚的研究问题。
这次建议的新增认识:除了问“这个仿真能不能完成任务”,还应问“它能否让控制器按不同要求完成不同的交互”。 这一点与 #220相连:即使指令表达完整,反力延迟或辅助保持约束也可能改变任务含义。具体方案仍待采纳,本帖没有启动控制实验或训练。
进一步核查:观测、其他路线与版本
2026-10-20,单一 AI 助手查阅原文与一手资料、核查 HDMI 和 DexLab 源码后整理,并按读者视角重写、自查;没有进行独立多方评审,也没有运行策略、训练或物理实验。
0abc7db,DexLab 固定为b955d85。当前代码不能直接代表论文或演示视频当时的配置。object_surface_points_local使用已知物体表面点和仿真中的实际位姿。这一个观测项并非相机可见点云;如果采用它,结论应限定在这种信息条件下,不能据此宣称已经解决真实视觉感知。对应实现English summary
Accurate motion tracking does not necessarily provide steerable interaction. The useful distinction is between changing physical effects when the command changes, and maintaining the requested effect when the environment changes.
HDMI provides explicit contact labels, but the inspected implementation does not establish arbitrary force control. One observation variant adds both target labels and measured contact flags, so its comparison cannot isolate their separate contributions. Workhorse also does not establish that direct visual input to the low-level tracker is necessary.
For DexLab, propose a small online normal-contact case with light contact, pressing and release. Use an interpretable controller first, reuse existing records, and test command changes separately from disturbance response. Existing offline traces are supporting infrastructure, not evidence that this closed-loop capability already exists. No general S0 training or new experiment has been started.
All reactions