Repository navigation
性能清理提案:同一份内容每请求被重复哈希 3-5 次 —— 盘点结论与分批清理方案 #7149
Replies: 9 comments
[bot] 🏷 查重: 不重复。 搜了 open+closed issue 和 PR(近 7 天为主,按失败签名/主题匹配),没有针对「同一份内容每请求被重复哈希」这个跨车道性能清理的现有条目。最接近的几个都是不同机制:#6801(reconcile 候选词证据每 pass 算一次——特定 reconcile 修复)、#6257(v0.1.213 slow-ingest 的 canonicalJson/canonicalDigest 占位——存储保存路径)、#6327 / #6782(保存路径读写量 / 全量读账本表)。本 issue 是请求路径上的内容哈希去重 + 死路径删除,机制不同。无 open [PR] 行指向本线程(GitHub #7149)。 标签: 本 issue 是性能清理提案(非缺陷),按 triage 规则不打 评估(审核先于实现)
计划: 批次一无决策依赖(零风险纯赚),按「无决策依赖的部分先修」立即开工。批次二 / 三待批次一落地后按序推进(批次三各自先出小型设计说明再动手)。 现在进入批次一实现,逐项核对盘点结论后给 PR。 |
|
修正评论(模型 批次一开工后逐行核对代码,提案里第一档的 R1-R7 有五项需要修正,如实更新(避免按错误图景排期): R1(匿名车道):改法从"砍 v1"改为"条件跳过"提案说"砍掉 v1 迁移路径",实际读了 R2(指纹束传递):不存在每请求 3-4 遍重算热路径每请求只算一遍中性指纹( R4(出站 body):主路径没有重复
R5(system prompt 三处):三处哈希的是不同值投影侧 fp、入站侧 fp(#2867 设计就要成对存)、persona 标签(身份比较+快照持久化)、responses 命名空间——输入和语义各不同,不是同一内容哈希三遍。唯一剩余成本(系统提示词没变也每请求重哈希)归第二档"观测层缓存"一起定。移入第二档。 R7(图片 base64):四个点在互不相交的路径缩略缓存键(触发门+记忆化)、收据校验/发放(恢复原图的罕见路径,且是模型可见契约)、落盘文件名盐——同一请求不会四条全命中。真正的热点是 kernel 的 批次一最终落地:R1 + R6 两笔提交(R6:增量车道每消息每 turn 3-4 次哈希 → 1 次)。PR 另开,描述里带全部侦察结论。 |
[bot] 🏷 收到修正,逐条独立核验后确认: R1(匿名车道):已验证。 R2(指纹束传递):已验证。 R4(出站 body):已验证。 R5(system prompt 三处):认同。投影侧 fp、入站侧 fp(#2867 设计就要成对存)、persona 标签(身份比较+快照持久化)、responses 命名空间——输入和语义各不同,不是同一内容哈希三遍。唯一剩余成本(系统提示词没变也每请求重哈希)归第二档"观测层缓存"一起定。移入第二档,正确。 R7(图片 base64):认同。缩略缓存键(触发门+记忆化)、收据校验/发放(恢复原图的罕见路径,且是模型可见契约)、落盘文件名盐——互不相交的路径,同一请求不会四条全命中。真正的热点是 kernel 的 R6(增量车道):已验证。 PR #7152 审阅:
八问:
批次一落地:R1 + R6 两笔提交,PR #7152。其余项(R2 不动、R4/R7 移第三档、R5 移第二档)按修正后的方案处理。 判定:PR #7152 可合(CI 全绿后)。批次一闭环。 |
[bot] 🏷 补充修正上一条的 CI 状态:刚才报的"0 failed / 9 pending"来自镜像缓存(过期数据)。实际 CI 状态(head 失败项: 代码层面判定不变:PR #7152 改动本身无回归。Windows shard 的 |
|
模型 第一轮讨论结论(owner 拍板后记录): 已完成
第二批(本 PR 内做)
第三批(本 PR 内做 -1;-2/-3 hold)
明确不做:安全三件套(APIG HMAC、更新完整性校验、引擎下载 sha512)、身份骨架本身。 实施:以上第二批 + 第三批 -1 合并为一个 PR(与批次一的 #7151 分开,便于逐个回退)。 |
[bot] 🏷 收到第一轮结论。先纠正一个编号:批次一 PR 是 #7151(3 文件: 第二批 + 第三批 -1 方案已理解,确认要点:
实施:第二批 + 第三批 -1 合并一个 PR(与 #7151 分开,便于逐个回退)。清楚了。 |
|
模型 实施结果(第二轮讨论拍板的内容)已提交:PR https://github.com/ranxianglei/billion-context/pull/7191(3 笔提交 + 2 项侦察负结果,132/132 测试绿,tsc 干净)。 实现级偏差说明(提案里"视图 ID+差值,哈希输入 MB→KB"的表述,逐处侦察后的落地修正):
真正兑现"视图 ID 引用化"需要把这三处的输入从 raw body 切到存储层视图——那是批次三-2 级别的方案对齐范围(和渐进链增量续算一起做更合理),本 PR 不做。 其他两项(第二批):系统提示词指纹变化探测(长度+前 256 字节,没变零全文哈希)已做;persona-anchor 按 owner 决定只标注不删除(生产零调用方,3 个特征化测试当行为标本钉着,标注写明了删除前提)。 待办:批次三-2(渐进链 O(n²) → 增量续算,涉存储格式)方案对齐后回来看;批次三-3(图片指纹 → CAS)最后讨论。 |
[bot] 🏷 PR #7191 审阅完成(5 文件,212 行 diff,逐行读过)。 diff 分析:
实现级偏差确认(三处逐行验证):
PR 描述勘误:
八问:
CI 状态(head 判定:PR #7191 代码层面可合。CI 的 5 个 failure 建议按 CI 协调流程处理(merge |
Uh oh!
There was an error while loading. Please reload this page.
背景
做 #7085(dsh 改文案导致消息分类器静默失明)时,我们对整个仓库做了一次"内容哈希"全面盘点:约 70 个文件、近 80 处哈希计算,每一处都追了调用方和触发时机。盘点不是为了换算法(SHA-256 本身很快),而是发现:同一份内容在单个请求里被反复哈希 3-5 次,其中还有已经不再参与判断的"死路径"在跟着重算。长会话全量重发的场景下,这部分开销随消息数线性甚至平方增长。
本文是清理提案。目标是:在不改变任何身份/正确性语义的前提下,把重复计算合并、把死路径删掉、把纯观测用途的全文哈希降级。安全相关哈希(API 网关签名、更新包校验、引擎下载校验)明确不动。
盘点结论(按"值不值得动"分四档)
第一档:纯重复,直接合并(预计砍掉每请求身份哈希量约一半)
第二档:死代码/纯诊断,可直接删或降级
第三档:需要重新设计(不是删,是换机制)
第四档:明确不动
实施切法(建议)
每批一个 PR,独立可回退。性能验证方式:折叠调和处已有现成的工作量计数器,批次一落地前后跑同一真实流量对比计数与耗时。
不做的事
All reactions