compact功能默认最大输出tokens太低导致频繁出现压缩失败 #5020
Unanswered
clclyzybzjsq
asked this question in
Q&A
Replies: 2 comments
结论是的: 推荐配置在 compaction-basic:
maxTokens: 32768上下文很长或模型上限更高时,可以再试 生效步骤
注意
按上面改完若还有问题,补充一下 dsh 版本号和 compact 那段 Trajectory,方便继续排查。 |
0 replies
|
「输出预算不够→压缩失败」这条路径可以整个绕开:dsh-dcp 是确定性压缩后端,压缩这一步零 LLM 调用——没有 max output tokens 可撞,也不需要模型把旧对话重述一遍。触发阈值、保留尾巴、事务锁全部继承官方实现,只替换「摘要」一环;检查点格式与官方兼容(可互相合并)。实测约 8 万 token 历史压到 ~700 token、0 次模型调用。 dsh plugin add @aiwayds/dsh-dcp顺带一提:调高压缩的输出预算仍是官方 compaction-basic 值得做的修复,两者不冲突。 |
0 replies
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
compaction-basic:
maxTokens:定义的默认值太低导致压缩容易失效,可以通过在settings.yaml尾部追加‘compaction-basic:
maxTokens: 32768’(或其他更大值)解决
All reactions