案例：本地 Qwen3.8 27B 驱动 DSH 长程 Agent Loop，并按需委托远端模型

[li-yifei]

案例：用本地 Qwen3.8 27B 驱动 DSH 长程 Agent Loop，并把复杂推理委托给远端模型

这是一份基于两个真实 DSH Web 会话导出的案例记录。目标是验证：一张 RTX 5090 上运行的 27B NVFP4 模型，能否作为 DSH 的主 Agent 持续调度工具、修改自身运行时、跨上下文压缩推进任务，并在必要时把深度推理或并行任务委托给远端模型。

使用的本地模型是 lyf/Qwen3.8-27B-Heretic-ARA-NVFP4-MTP-VL，由 vLLM 提供 OpenAI-compatible API；Agent Harness 是 DSH 0.1.0-rc.7。

量化模型、vLLM 配置与吞吐数据的英文版分析见：https://huggingface.co/lyf/Qwen3.8-27B-Heretic-ARA-NVFP4-MTP-VL/discussions/1

运行结构

用户 / DSH Web
      │
      ▼
本地 Qwen3.8 27B ── 主 Agent Loop
      │
      ├── DSH tools / bash / filesystem / Cordis runtime
      ├── continuable subagent
      └── deep_think / deep_think_batch
                    │
                    ▼
            gpt-5.6-luna @ xhigh

本地模型负责高频规划、工具调用、错误恢复和最终整合。远端模型只处理两类工作：需要更深推理的单项难题，以及适合并行 fan-out 的多个独立任务。这种结构接近“JavaScript 主线程 + worker pool”。

本地 vLLM 配置使用：

• NVFP4 compressed-tensors 权重；
• FP8 KV Cache；
• 196,608-token context；
• Automatic Prefix Caching；
• chunked prefill；
• 原生 MTP，3 个 speculative tokens；
• 单并发序列，侧重长程交互。

会话一：让 DSH 构建自己的混合 Agent preset

第一项任务要求 DSH 在运行中建立以下行为：

1. 本地 Qwen 始终主导 agent loop；
2. 难题调用 deep_think，路由到 Luna xhigh；
3. 多个独立任务调用 deep_think_batch 并行执行；
4. 本地上下文达到 50% 时提前压缩。

这不是单纯写一段 system prompt。Qwen 先读取 DSH 的 composition 规则，区分 host plane 与 agent-preset plane，然后：

• 创建 qwen-gpt56 preset；
• 实现单任务和并行委托工具；
• 动态挂载 Cordis plugin；
• 将 preset 设为新会话默认值；
• 用真实 Luna 请求验证两个工具；
• 检查 settings hot reload 和 preset roster。

轨迹规模

指标	结果
Agent steps / 模型请求	91
工具调用	109
主 turn 有效执行时间	1,065.8 秒
最大单请求输入	155,968 tokens
累计输出	91,981 tokens
TTFT P50 / P95	1.18 / 3.93 秒
加权流式 decode	116.5 tok/s
Finish	90 次 tool-use，1 次最终 stop

“累计输入 token”会重复计算每个 agent step 携带的历史上下文，因此不能视为唯一 token 或计费 token。这个 workload 的 system/tool/history 前缀很大，vLLM Prefix Cache 对实际 prefill 成本非常关键。

DSH 自修改与恢复

这一轨迹最有价值的部分是运行时恢复。模型遇到并修复了多类真实错误：

• Cordis plugin ID prefix 不符合约束；
• JSON Schema 缺少显式 additionalProperties；
• 工具返回值越过 lossless-JSON 边界；
• value-schema DSL 不接受 required；
• ESM 对失败模块的缓存导致修复后仍复用旧 evaluation；
• deep_think 首次真实调用报 ctx is not defined。

最后一个错误发生在端到端 smoke test。Qwen 定位到 collect 使用了错误作用域中的 ctx，修复参数传递，再通过未使用过的模块 URL 绕开 ESM 失败缓存，随后重新验证：

• 单次 deep_think 成功；
• 两任务 deep_think_batch 并发成功；
• preset 已进入 roster；
• 默认 preset 配置已热更新。

这说明 DSH 的“everything is a plugin”架构可以被模型实际操作：读取 composition、定义动态工具、运行、观察错误、修复、重新挂载并验证。

会话二：从能力测试推进到替换 web_search provider

第二个会话使用刚建立的 qwen-gpt56 preset。任务逐步扩展为：

1. 验证 shell、文件操作、deep-think 和 subagent；
2. 调查本机可用的第三方搜索 CLI；
3. 尝试 Jina Reader/Search；
4. 接入 Google Antigravity CLI agy 的 one-shot 搜索；
5. 将它封装成 DSH web-search provider；
6. 通过 Cordis HMR 动态激活；
7. 调用当前会话自己的 web_search，验证后端已经切换。

轨迹规模

指标	结果
Turns	11
模型请求	80
工具调用	132
有效执行总时间	2,875.6 秒
最大单请求输入	97,817 tokens
累计输出	207,160 tokens
TTFT P50 / P95	1.03 / 7.63 秒
加权流式 decode	120.3 tok/s
DSH compaction events	21
用户主动中止 turns	3

DSH 在这段长任务里做了多轮 summary compaction。压缩之后，Agent 仍保留了当前目标、关键路径、已完成修改和待验证假设，最终完成 provider package、profile patch、模块解析链接、HMR 激活以及真实搜索调用。

委托并不等于盲信

这个 preset 的一个重要行为是：远端专家和子代理提供结果，本地主 Agent 负责验证和整合。

• Luna 对 US coin-change 问题给出 292，Qwen 随后写本地动态规划脚本复核；
• Qwen continuable subagent 写 Python 脚本枚举 4 位 pandigital primes，返回：

1423, 2143, 2341, 4231
LARGEST=4231

主 Agent 又独立检查了结果。

第二个复杂案例中，Qwen 把 Cordis HMR 是否重建 WebRuntime 的生命周期判断交给 Luna，随后结合本地源码与真实 web_search 调用完成最终确认。远端模型负责高难度判断，本地模型保留执行权和验收权。

DSH 层面的观察

1. 插件化架构适合 Agent 自修改

DSH 把工具、provider、agent preset、compaction 和运行时能力统一成 composition rows。模型可以沿着同一种机制完成检查、定义、挂载、停止和替换，减少了“配置层”和“代码层”之间的断裂。

2. Session JSONL 足够还原真实 Agent 行为

导出的 JSONL 包含：

• request header/context；
• reasoning/text/tool-call chunks；
• usage；
• tool call/result；
• turn/step 生命周期；
• compaction summary/prune；
• subagent descriptor；
• 用户中止与最终 finish reason。

这些事件足以计算每步 TTFT、流式 decode 速度、上下文增长、工具失败和恢复轨迹，也可以把主 Agent 与 subagent 分开分析。

3. 长任务的瓶颈主要在 Agent 效率

本地模型的 decode 很快，主要问题是推理偏长和请求放大。一个复杂 turn 产生 91 次模型请求；简单子任务也可能先生成大量 reasoning 才执行脚本。对这类 workload，以下优化很有价值：

• 更简洁的 reasoning policy；
• 尽早进入可验证的工具执行；
• 稳定 system/tool schema 序列化；
• 每次 vLLM 启动后预热 DSH canonical prefix；
• 用 Prometheus 同步观测 Prefix Cache、prefill、TTFT 和 KV pressure。

4. 混合路由提高能力上限，也引入远端尾延迟

本地 Qwen 的高频 agent loop 保持在本机；少量 Luna 请求提供深推理补强。一次 Luna 请求约 36 秒，复杂生命周期审查约 514 秒，因此远端专家会直接影响 turn 的 p99。委托条件需要足够严格。

结论

这两个会话证明了 DSH 可以把一台本地工作站上的 27B 量化模型组织成可持续工作的 coding agent：它能连续调用工具、修改 Harness 自身、生成并装载插件、管理 subagent、跨多轮 compaction 维持状态，并对远端专家结果进行本地验证。

效果最好的角色分工是：

• DSH 提供可组合、可观测、可持久化的 Agent runtime；
• 本地 Qwen 充当主线程，负责调度、执行、错误恢复和验收；
• 远端 Luna 充当按需 worker，处理深推理和并行任务。

这两段轨迹属于不同任务下的探索性案例，用于展示 DSH 的能力与运行特征，不构成模型间的严格 A/B benchmark。