IoT-items-of-thoughts

IoT = Items of Thoughts。 把模型的 thinking block 在它结束的那一刻按某个档位改写， 原地替换后返回 —— 正文、tool_calls、usage、finish_reason 与原生行为一模一样。

IoT 的本质不是"压缩"。 压缩只是决策型任务需要的那种改写。所以改写方式是可选的 档位，并且可以按会话 / 按 agent preset 各选一档：

除这三档 + custom 之外不内置别的档位。没有真机数据支撑的改写方式（长程研究、 角色内心这类）不配和基础档平起平坐 —— 它们应该以自定义预设的形式存在。 inner-voice 就是这样一份 preset（现在只剩 presets/character-inner-voice.md 这份文本）。

解析顺序写死：sessions[<sessionId>] > agentPresets[<preset id>] > strategy（全局默认）。 三个入口写的是同一张表：对话顶部下拉、/iot <档位>（/iot custom:<名字>、 /iot auto 清除覆盖）、设置卡。

压掉的只是填充（let me… / hmm… / 把用户要求再复述一遍），保留的是关键推理节点： 正节点（这条路线为什么成立）与负节点（哪条路被否了、为什么否）。动机一句话： 不让思维链里有价值的信息被淹没在 thinking 长文本下，提纯，且降本。 负节点是长程任务里最贵的一类事实 —— 它拦住的是"重新走一遍已经被否掉的路"。

llm/stream 是 ctx.waterfall，不过 scope filter（对比 system-prompt/assemble 是明确 scope-filtered 的）。所以：

• 把插件挂在某个 preset 的隔离组里不会限定它的作用面 —— 钩子照样对整进程每个请求触发；
• 两个插件同时挂 llm/stream 会形成 waterfall 嵌套，外层拿到的 chunk 已经含内层吐出的东西， 语义没有定义过。

正确做法是一个钩子内部按会话身份分派。身份拿得到：sessionId 在 GenerateOptions 上； agentPreset 在会话投影里（key: "agentPreset"，init: header.agentPreset， apply: agent-preset/selected），用 ctx.get("sessions").get(sessionId) + ctx.get("sessionProjections").stateOf(session, "agentPreset") 读， 会话一创建就有值。本机实测会话头即 {"agentPreset":"standard"}。

这也正是"把角色档做成一种预设"的来由：预设是数据，不是挂载位置。

插件是外部 bundle：package.json 声明 dsh.bundle.patch，装进 profile 后 cordis.patch.yml 那一行自动成为配置层的一部分。

# 1) 装插件（DSH 0.2.x / node >= 20）
dsh plugin --profile web add "<repo>\dsh-plugin-iot-thinking"
#    也可以走 UI：设置 → 插件 → 添加插件 → 填上面那个绝对路径
#    ⚠️ 填「声明了 dsh.bundle 的那一层」：子目录或仓库根都行（根 package.json 已声明），
#       但不要填 GitHub 的 /tree/main/... 子目录页地址，那是 invalid-spec
#    ⚠️ 走 GitHub 地址安装前先看插件 README 的「中国网络」一节：直连 github.com:443
#       实测会等 109 s 后超时，需要给 git 和 profile 的 .npmrc 都配代理
#    装完重启一次 dsh web（host 模块是新的；client 半个从 exports["./client"] 出）

# 2) 插件自测（纯逻辑，不启动 dsh、不连模型）
node dsh-plugin-iot-thinking/selftest.mjs

# 2b) 接线自测（真插件入口 + 真 dsh-llm seam，假的 ctx 与模型调用；需要盘上有 dsh 安装）
node dsh-plugin-iot-thinking/smoke.mjs

# 3) 看某一档真正发给模型的提示词（不需要 dsh 在跑）
node dsh-plugin-iot-thinking/show.mjs iot-full

# 4) pciso 平台测试（可选，跑的是实验台那套）
$env:PYTHONPATH = "$PWD\src"
python -m pytest -q -m "not slow"

开关与参数在 设置 → 插件 → IoT 思考改写：启用/关闭、默认档位、逐档限制 （minChars / maxChars / maxTokens / maxNodes / maxNeutral）、按 agent preset 映射 （"当 preset 是 X → 就用 Y"）、第 4 项自定义预设的目录与内容、可选 provider/model、 改写器推理档位（reasoningEffort，默认 auto）。 配置写到 $DSH_HOME/plugin-data/iot-thinking/config.json，每次请求按 mtime 读， 改完下一个模型请求就生效，不用重启。卡片是"改完再保存"的，未保存时有明确标记。

auto 档位的意思是：先发 off（改写器不花预算在自己的 thinking 上），宿主拒绝该档位时 改用该路由公开的 minimal/low，没有就不发这个字段、由适配器取默认值。旧实现把 off 写死，于是不接受该档位的路由（pi-ai 一类）改写一次都没成功过，而失败按设计静默保留 原文 —— 界面上只表现为"没效果"。运行中可点卡片上的一键测试：它用选中的档位真跑 一次，并按与真实链路相同的替换规则判定；关着插件、输入太短、草稿已判为循环重复时 它会直接说"真实链路会跳过"，不报绿。

预设就是一份文本：告诉改写器"把 thinking 改成什么样"。插件开局是空的。

<你填的 presetDir>/*.md | *.txt    # 文件名即预设名（带后缀）；目录必须自己填

• 值域：custom（设置卡里贴入的那段）/ custom:<文件名>（目录里的文件，带后缀，如 custom:my-style.md）；
• 提示词：默认"你的文本是指令体"，引擎把草稿包进 <thinking>；写了 {{draft}} 就按整段模板处理；
• 替换规则 presetAccept：默认 different，压缩型预设改 shorter；
• 质量门只有四道最小闸：empty / unchanged / too-thin / degenerate。

要一份现成的角色内心档，抄 inner-voice/presets/character-inner-voice.md， 放进上面的目录，然后 /iot custom:character-inner-voice。

只有插件账本是可靠证据（会话日志里看见的紧凑块，分不清是插件压的还是模型自己写短的）：

$DSH_HOME/plugin-data/iot-thinking/events.jsonl          # 事件账本
$DSH_HOME/plugin-data/iot-thinking/originals/<sid>/<time>-block<index>.txt   # 替换前的原文归档

事件：constructed / strategy-switched / block-replaced / block-kept / block-skipped / block-failed / thinking-rewritten / thinking-failed / thinking-skipped / thinking-degenerate / thinking-rejected / thinking-effort-fallback / thinking-effort-unsupported / thinking-effort-probe-failed / thinking-self-test。 每条改写事件带 strategy，可以按档位统计效果；block-replaced 还带形态学指标 （基础三档 nodes，自定义预设 lines / fragmentRate）；thinking-failed 带宿主的 code（如 UNSUPPORTED_REASONING_EFFORT）；thinking-skipped 的 reason: "aborted" 表示是你自己按了 Esc，不是插件出错。替换前的原文只存在 originals/ 里。

dsh-plugin-iot-thinking/   主形态：llm/stream 块级改写（host + client 半个）
  lib/strategies.mjs         档位注册表（三档基础 + custom + off）
  lib/route.mjs              三层解析：会话覆盖 > agent preset 映射 > 全局默认
  lib/custom.mjs             自定义预设：目录 / 读取 / 另存为 / 提示词拼装
  lib/gates.mjs              自定义预设的四道最小闸
  show.mjs                   不启动 dsh 的文本视图（看某一档到底发什么）
dsh-plugin-compaction/     已退役的 compaction 后端（历史/回滚参考）
src/pciso/                 前身实验平台（P/C 隔离、验证器、/v1 代理）
configs/                   实验臂 A–G 与 chat 档配置
prefixes/                  P：冻结需求包（目标载体 one_sentence_edit / 排练载体 drawing_video）
scripts/                   验收、探针与复盘脚本（verify_*、_think_*、_session_* …）
tests/                     平台测试（546 passed / 37 deselected，-m "not slow"）
docs/                      原理、设计沿革、实验日志、平台文档
experiment/  out/  state/  留档与运行期产物，不进版本库（见 .gitignore）

• thinking 是流式中断的：块结束才替换，所以客户端看到的是"顿一下再出现"，不是逐字流。 "边压边回"是明确排除的次要功能。
• 每改写一块多一次模型调用（被拒时多一次带针对性指令的重试）。默认走当前请求的路由， 可在设置里换更便宜的。
• 不支持 off 档位的路线上，改写器会自己思考：插件降级为不发 reasoningEffort， 代价是每块多 10–20 s。想避免就显式选该路由公开的低声档。
• 不是安全边界：插件以 host 权限运行、能读模型输出，只装可信来源。
• 基础三档的质量有已知失效面：标签记账错位（该 [决定] 的落进 [待定]）、块内退化重复。 后者已由四道闸拦住，属于"急性失败"，体积与接地率这类指标抓不到 —— 详见 docs/experiment-log-2.md §4.2。
• 自定义预设没有专门闸门：只有 empty / unchanged / too-thin / degenerate 四道最小闸。 角色档那套 tic（口头禅）/ collapse（塌缩比例）/ bans（禁词）已经不内置了； 禁词可以写在预设文本里，但机器不替你拦。这是把"未验证的改写方式"退回用户自定义 所付的代价，写在这里而不是藏在代码里。

这个项目是业余时间做的，测试做到哪一步，说清楚比说漂亮更有用。

已经做过的：平台测试 546 项（-m "not slow"）、插件纯逻辑自测与接线自测全通过； 更关键的是真机会话逐条核对 —— 每个"它说丢了 X"都回去翻原文、翻盘上的文件， 核得动的修机制，核不动的记成框架偏差。因此现在这条链上，已知的失效模式大多是被真机 抓出来、再补上闸门的（块内退化重复、标签记账错位、[待定] 里装已定内容，都是这么来的）。

没做到的：受时间和成本限制，完整的对照试验与消融试验没有跑。这意味着：

• 现有数字多来自单会话量级估计（真实任务里 thinking 约占上下文 14.9%；提纯比落在 0.11~0.32）， 可以说"这个量级上有收益"，不能说"这是分布定律"；
• "agent 能力不降甚至更强"目前只是设计与观察，不是已量化的结论 —— 四臂真机对照（iot / raw / drop / full）仍是未决项；
• 自定义预设没有任何量化数据：它是一份用户文本，好坏取决于写它的人。别指望它 "天然更好"，先用账本看它到底改成了什么。

怎么参与：欢迎**"以用待测"** —— 正常用起来本身就是在替这个项目做测试。 如果怀疑哪一段被改坏了，请把 $DSH_HOME/plugin-data/iot-thinking/events.jsonl 里的对应事件 和 originals/ 下的原文草稿一起带上；有原文才判得出"是改写丢了"还是"原文本来就没写"。

如果暂时不想承担这份不确定性，也完全合理：可以先关注、等社区反馈，等这些项收敛了再跟进。 这个项目不着急。