[Feature Request] 支持历史消息编辑、重新生成与中断响应保留 #7019
jfxhjdx446-hue
started this conversation in
Ideas
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
目前 DSH 缺少两个比较基础的会话能力:
这两个能力也可以顺便解决目前流式响应中断后正文 / reasoning 被丢弃的问题。
建议:
partial/interrupted响应;底层不一定需要真正修改原始历史。可以保持现有 append-only event log,通过 overlay / replacement 记录历史消息的修改版本;重新生成则保存多个 response branch。用户在 UI 中切换版本时,只需要切换当前 active revision / branch。
同时给每次生成绑定 branch / revision / generation id,避免历史编辑、重新生成和正在进行的 stream 之间产生竞态。
这样不仅能解决断流后大量已生成 token 被浪费的问题,也能补齐比较基础的 Edit / Regenerate / Response Variants 会话体验。
All reactions