Replies: 2 comments
|
显示:pi-ai stream idle timeout after 300000ms。 |
0 replies
|
可以配置。这 300 秒来自 改法:在 settings.yaml 里该 provider 条目下加一行(单位毫秒,按你 VRAM 冷启动的首 token 时长设置,例如 15 分钟): 重启 dsh 生效。 说明:这个 watchdog 管的是"流在给定时间内没有任何数据就报 TIMEOUT 并重试";VRAM 冷加载导致首 token 前长时间无数据,正是它触发重试的场景,调大后重试就能等到模型输出。若调大后仍失败,请把该 provider 在 settings.yaml 的条目和完整报错贴出来——可能是网关/模型侧另有超时,那个用同一条目下的 timeoutMs 一并调。 |
0 replies
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
有没有调整超时时间的地方?或者能调超时长度
All reactions