Repository navigation
|
在对话过程中,我切换到了通过第三方模型中转站使用的模型,发现无法再压缩上下文,导致对话花费巨大,对话过程中经常显示“ |
Replies: 3 comments 4 replies
压缩需要目标模型的正整数上下文窗口——切到中转站模型后,这一项很可能拿不到1. 代码依据(
|
|
手动压缩 也压缩不了,所以是不是过于严格了。自动不了, 是不是手动也应该可以,而不是推导不出来就不让压缩。 |
|
手动压缩确实不看上下文窗口,所以"推导不出来就不让压缩"这个判断在这里不成立——它和自动压缩走的不是同一条路。
那"手动也压不了"就是另一个失败点。
所以请把你手动压时屏幕上那句原话贴出来——它是哪一句,就决定了要修什么。如果是 至于"是不是过于严格":自动那条必须严格,因为阈值是窗口的一个比例,没有窗口就没有阈值可算,这不是保守,是无从计算。但我同意现在的呈现是错的——它抛的是一个配置异常,用户只看到"不能压缩",看不到"这个模型缺上下文窗口"。该改的是把缺窗口变成一句明确诊断,而不是放宽阈值。 |



压缩需要目标模型的正整数上下文窗口——切到中转站模型后,这一项很可能拿不到
1. 代码依据(
HEAD=dsh-v0.2.1-alpha.1)⇒ 也就是说:压缩规格是按"目标模型的上下文窗口"推导的(阈值 =
contextWindow × thresholdRatio之类),而这个值必须由适配器/目录给出。⇒ 所以你遇到的很可能不是"压缩坏了",而是:切到第三方中转站的模型后,那个模型没有可用的上下文窗口 ⇒ 规格推导不出来 ⇒ 无法压缩。⇒ 而你同时看到的
pi-ai detected context overflow for model "deepseek-flash"说明它仍然按原模型(或某个已记录模型)在判溢出 ⇒ 这两者叠加正好解释"既溢出又不压"。2. 建议的诉求(两条)