Repository navigation
新提案:egress 流水表成为会话内容唯一权威(存储解耦 + 服务端快照权威) #7439
Replies: 3 comments
[bot] 🏷 (ai: sglang-gpu0/qwen3.8-27b) 查重: 不重复 — 本任务是 GitHub #7439 的授权施工,建立在 PR #6785(已建 现状核对(PR #6785 分支 @
五项裁定理解(逐条确认):
施工计划(在 PR #6785 分支推进,rollout 默认关 = 现状字节级不变,人工评审档):
开始施工:先留底基线测试,再做步骤 1(流水表自包含:bytes BLOB 列、无 hash 行模型、断 content)。每步独立 commit,完成后回复进度。 |
[bot] 🏷 (ai: sglang-gpu0/qwen3.8-27b) 进度更新 — Step 1 + Step 2 已完成(已提交到 PR #6785 分支) Step 1:流水表自包含(裁定 1)✅
Step 2:单一事实源(裁定 3 + 5)✅
验证:typecheck 0 错;31 单测 + 35 e2e 全绿。rollout 下一步:Step 3(服务端权威——内核输入 = 重放结果,prepare 层单缝切换)。这是 wire 相邻的权威语义变更(裁定 5 核心),按纪律跑真实客户端 e2e。 |
[bot] 🏷 (ai: sglang-gpu0/qwen3.8-27b) Steps 1+2 已推送,CI 全绿。 分支
CI 30 项检查全过(ubuntu/windows × node 22/24 全分片 + static-gates)。 下一步:Step 3(服务端权威 — 内核输入 = 重放)。 这是裁定 5 的核心,也是最复杂的一步:把内核的输入从客户端原始字节切换到流水重放结果。prepare 层单缝切换。 Step 3 涉及 wire 相邻的权威语义变更,按仓库规约属人工评审档。我会在实现后单独说明切换点与降级行为,请 owner 过目。 |
Uh oh!
There was an error while loading. Please reload this page.
Uh oh!
There was an error while loading. Please reload this page.
(ai: sglang-gpu0/qwen3.8-27b)
本提案是 PR #6785 的新调整设计,owner 已裁定并授权施工。一句话:会话内容以服务端出站流水表(egress_state / egress_flow)为唯一权威——它存实际字节、不依赖任何全局表;客户端重发降级为身份验证;内核、折叠状态、出站全部从这份流水重放。
1. 五项裁定(owner 2026-11-21 亲裁,按原话精神记录)
裁定 1 —— 流水表存实际字节,与 content 表彻底断绝关系。
egress 行不再存指向 content 表的 hash 引用,也不再存指纹字段(“hash 不靠谱”是本次裁定的动因之一);判定改用字节直接相等。实现完成后 content 表被标记为过期表(即将删除);现存引用方中 blocks 的摘要引用本次一并内联解决,messages / ccr 登记为后续迁移项。前提:两张流水表全部由本 PR 引入、从未随版本发布,行结构可自由重设计,无迁移包袱。
裁定 2 —— blocks 表保留,改为自包含(零跨表指针)。
blocks 是内核折叠生命周期的持久化真相(重启恢复块列表、面板统计、twin 检测),存的是生命周期(tier/supersedes/active/refs),不是视图操作,不进流水 op-log。改造:加
summary_bytes(摘要正文内联,停写 content 表)+start_msgid/end_msgid(与流水的 msgid 坐标一次性对齐,之后零 join)。master 既有表,只加列不改列。裁定 3 —— 删掉进程内存里的视图缓存,流水表是唯一状态。
现有进程内视图缓存(session.egressView,纯内存不落盘)是“重启后全量重录”漂移的根源,整个删掉:每轮直接从流水表重放上一版视图再算增量。重启/崩溃恢复/缓存失效问题一次清零;重放成本毫秒级,后续有性能问题再优化。
裁定 4 —— 流水表补齐全部四个车道。
目前只接了 OpenAI 车道,anthropic / responses / google 未接 = 缺陷。拆出车道无关的核心重建器,四车道的出站(以及下面的内核输入)全部从流水重放。
裁定 5(战略决策)—— 服务端流水是会话内容的唯一权威,永远不回退到客户端原始字节。
第一条消息起,每条消息都进流水(turn 1 是冷启动 bootstrap,客户端字节只此一次作为内容来源);之后每轮服务端对话源 = 流水重放,客户端重发降级为身份信道(msgid 验证)+ 新消息字节来源;内核的输入也换成重放结果。客户端自己改了历史字节,必须走 bili 的新显式接口(update 接口,后续另立);在那之前记为分歧事件:日志 + 内容跟服务端 + 出站自然收敛。降级阶梯永不回客户端:当前点位重建失败 → 回退到流水里最近的健康点位(flow 永不删,天然支持)→ 整个流水不可读 → 会话级恢复。任何一级都不允许“退回信任客户端字节”。此裁定翻案了旧注释 “plugin lane: client-authoritative by design”,把「快照即会话」(KDD#13)从出站前缀扩展到内核输入 + 全车道。此战略决策在代码实现时会在关键 seam 注释、PR 描述中同步说清楚。
2. 要解决的三个问题(为什么这么设计)
现状(#7398 提案的实现,全部在 PR #6785 内,尚未随任何版本发布):
3. 目标表设计
3.1 egress_state / egress_flow —— 核心平面,两表同构
egressStateAt)——降级回退的落点。{msgid, ref, tokens, type, role, bytes}。ref = 内核引用编号 mNNNNN(是身份,不是 hash);tokens = 长度估算(≈字节/4);bytes = 该行的最终 CORE 消息 JSON。{after: 前一行 msgid|null, ref, tokens, type, role}+ bytes 列 = 实际字节;{start, end}—— msgid 闭区间(msgid 锚定,永不用位置);{msgid, role}+ bytes 列 = 新字节(与旧字节直接比对判定);{entries: [{msgid, ref, tokens, type, role, bytes}...], watermark}—— 单快照行,entries 内嵌字节。3.2 blocks —— 保留,改为自包含(零跨表指针)
blocks 是内核折叠生命周期的持久化真相(进程重启后块列表从它恢复、面板统计、twin 检测),它存 tier / supersedes / active / ord / refs——这是折叠生命周期,不是视图操作,所以不塞进流水 op-log(流水表保持纯视图日志契约)。改造(它是 master 既有表,只加列不改列):
summary_bytes BLOB:折叠块摘要正文内联,停止把摘要写进 content 表;start_msgid / end_msgid:折叠时与流水表的 msgid 坐标显式对齐(一次性落表,之后零 join);summary_hash保留为兼容列,降级为非权威(可从 bytes 推导)。做完后 blocks 对其他表零指针:seq / msgid 只是坐标值,不是外键。
3.3 退役三表
fold_journal/egress_snapshot/egress_scope_rev:三者的功能消费方互相闭环(fold_journal 的唯一读取方 = egress_snapshot 的门禁;egress_scope_rev 是 snapshot 的纯卫星;input_hash 全库零校验方)。出站缓存统一收敛到 egress op-log 后,三者归零删除。schema 版本保持 v12(probe-first 语义,已存在的开发库物理表闲置,不 DROP)。3.4 content —— 标记过期表(即将删除)
本 PR 断掉它的两个引用方(egress、blocks);剩余引用(messages.content_hash、ccr 条目)登记为后续迁移项。本次只标记,不删。
4. 解耦后内核数据怎么处理(裁定 5,本提案核心)
原则:服务端流水是会话内容的唯一权威,从第一条消息开始。
逐轮数据流:
egressStateAt(最近健康 log_seq)(flow 永不删,天然支持)→ 整个流水不可读 → 会话级恢复(日志 + 管理面)。现有的"腐化 → 回退信任客户端字节"路径被此阶梯替换。5. 主要改动(文件级)
src/storage/schema.tssrc/storage/egress-state.tsegressStateAt接入降级阶梯src/storage/egress-record.tssrc/storage/egress-serve.tsrebuildCoreFromLog(只取字节 + 校验),openai 专属链剥离src/server/prepare-{openai,anthropic,responses,google}.tssrc/storage/store.tssrc/storage/snap.tssrc/server/snapshot-render.tssrc/session.tsegressView字段(内存视图缓存;流水表成为唯一状态)config.ts/knobs.ts/ website yamlstorage.snapBase配置面(本 PR 新增、从未发布,移除无兼容包袱,PR 里按规矩声明)6. 施工顺序(已开工)
全程 rollout 开关默认关(关闭态字节级同改前),灰度节奏由 owner 定。
7. 明确不在本 PR 范围
8. 风险与评审档位
裁定 5 是 wire 相邻的权威语义变更,按仓库规约属人工评审档(不 auto-merge);rollout 默认 0 保证现状字节不变。管道(内核输入来源)变更按纪律跑真实客户端 e2e。
All reactions