Repository navigation
v4.0
① 新增 13 项设置:KV 缓存策略 2 项(kvUnified、kvStreamStageMib,其中流式暂存是特定 llama.cpp 分支的私有参数)、采样参数 8 项(temp / topK / topP / minP / presencePenalty / repeatPenalty / repeatLastN / seed)、多模态与推理预算 3 项(imageMinTokens / imageMaxTokens / reasoningBudget)。这些参数现在会在每次加载时显式下发并覆盖 llama.cpp 自身的默认值(temp 0.8→0.75、top-k 40→20、min-p 0.05→0、repeat-penalty 1.1→1.0),设置页里逐项注明了差异。② 删除「接入 dsh」整组设置(routeName / modelAlias / routeModelId / contextWindow / registerRoute / exposeTool / allowModelControl):这 7 项改为 configResolve.ts 里的常量,取值沿用原默认值,行为与默认安装完全一致但从此不可配置。③ maxTokens(单次最大输出 tokens)保留,从「接入 dsh」挪进「推理参数」。④ 顺带修掉一处会静默毁掉小数设置的 bug:clamp() 内部有四舍五入,temp 0.75 会被它变成 1;小数项改用新的 clampFloat()