Repository navigation
Releases
v7.1
v7.0
0.7.0 — ① 修掉「装上视觉投影文件后一直报 400 Failed to load image or audio file」。根因不在插件、也不在模型：llama.cpp 内置的图像解码器只认 png / jpeg / gif / bmp 这些老格式，不认识 WebP；遇到 WebP 它会去起外部的 ffprobe 探测、ffmpeg 转码，而这两个是从 PATH 里找的（这个构建砍掉了 --ffmpeg-path，只剩 PATH 一条路）。机器上没装 ffmpeg 时，服务端会打 probe: failed to launch ffprobe / failed to decode webp buffer，客户端拿到 400 —— 而同一批里的 JPEG 却能正常识别（dsh 转码时两种格式都会产出，实测 .dsh/attachments/v1/request-images/ 下两种都有），所以表现是「时好时坏」，极易被当成插件或模型坏了。现在：插件会自动找到 ffmpeg 并把它的目录前置进 llama-server 子进程的 PATH（不必改系统 PATH、也不必为此重启 dsh），找不到且已开视觉时会打出一条说清「哪个格式会失败、为什么只有它、怎么修」的警告。装法：winget install Gyan.FFmpeg。
② MTP 与视觉投影从「互斥」改为「可共存」（新增设置项 mtpWithVision，默认开启）。原规则来自上游 llama.cpp（两者同时下发会加载失败），但 kvmem 分支的 llama-kvmem-server 实测支持：同时给 --mmproj 与 --spec-type draft-mtp 时 clip_model_loader: has vision encoder 与 creating MTP draft context 会同时出现、服务正常起来、看图对话也能识别（2026-09-21 本机验证）。换回官方 llama.cpp 的用户把这个开关关掉即恢复旧的互斥行为（MTP 生效、--mmproj 被忽略并给出说明）。
③ 设置页顶部新增「本次启动参数」面板：把这次真正下发给 llama-server 的完整命令行逐项一行列出来（不是设置页里填的那一份 —— 两者之间隔着门控跳过、构建默认值与自动收敛），配一张参数摘要（含派生的「GPU KV 合计 = 工作集 + 解码预留」）、一条「复制命令行」按钮、以及被跳过的选项与识别表没覆盖到的选项（后者过去只躺在日志里）。刷新跟随运行状态轮询，换模型/改参数后自动更新。
v5.3
v5.2
v5.1
v5.0
0.5.0 — 新增参数预设：把整套加载/推理参数（含选中的模型与视觉投影）存成带名字的条目， 可存多组、可重命名、可覆盖、可删除，点一下即切换。预设条固定在设置页顶部， 滚到参数区也能直接切。预设只收「参数」不收「环境」—— 端口、监听地址、模型/运行时目录、 密钥、日志级别这 9 项不进预设，切换预设不会动它们（否则切个参数预设会把端口也换掉）。 存储在 <DSH_HOME>/local-model/state/presets.json（与 config.json 同目录，独立成文件， 不污染既有配置）。新增功能不动既有行为：所有原设置项、按钮、请求改写、加载/卸载逻辑一字未改， 预设的应用路径就是「保存设置」那条路径（写入用户层 → 按新参数卸载 → 下次对话重载）。
v4.2
0.4.2 — 修掉「推理档位拨了会 500」。0.4.1 让 dsh 把档位写进 chat_template_kwargs 之后暴露了两个新问题：① 模型模板对不认识的档位是直接 raise_exception（实测这个模型只认 xhigh/medium/low），而插件把面板档位原样透传、dsh 还会把 off 发成布尔 false —— 一次对话直接 500；② 插件仍会在某些情形下覆盖请求自己的档位选择（开关关闭时把 High 也压成不思考）。现在：加载后读模型模板解析出它支持的档位表（日志与状态卡都会显示），面板档位按表重映射（high → xhigh）；映射不出来就不发这个字段；false/null/true 等形态一律归一化；开/关以请求为准，插件开关只在请求什么都没说时生效。
v4.0
① 新增 13 项设置：KV 缓存策略 2 项（kvUnified、kvStreamStageMib，其中流式暂存是特定 llama.cpp 分支的私有参数）、采样参数 8 项（temp / topK / topP / minP / presencePenalty / repeatPenalty / repeatLastN / seed）、多模态与推理预算 3 项（imageMinTokens / imageMaxTokens / reasoningBudget）。这些参数现在会在每次加载时显式下发并覆盖 llama.cpp 自身的默认值（temp 0.8→0.75、top-k 40→20、min-p 0.05→0、repeat-penalty 1.1→1.0），设置页里逐项注明了差异。② 删除「接入 dsh」整组设置（routeName / modelAlias / routeModelId / contextWindow / registerRoute / exposeTool / allowModelControl）：这 7 项改为 configResolve.ts 里的常量，取值沿用原默认值，行为与默认安装完全一致但从此不可配置。③ maxTokens（单次最大输出 tokens）保留，从「接入 dsh」挪进「推理参数」。④ 顺带修掉一处会静默毁掉小数设置的 bug：clamp() 内部有四舍五入，temp 0.75 会被它变成 1；小数项改用新的 clampFloat()