Skip to content

gsv.cpp v0.1.2

Choose a tag to compare

@KakaruHayate KakaruHayate released this 07 Nov 02:35
· 10 commits to main since this release

gsv.cpp v0.1.2

C++/ggml inference server for GPT-SoVITS V5 (v5turbo 4-step DMD / v5dev 32-step). The whole
pipeline runs in C++ on a Vulkan or CPU ggml backend: AR → cond → DiT/CFM → HiFi-GAN.

本版是 0.1.2 的重发。早前那份 0.1.2 已下架:它的引擎有一个"第二次渲染开始崩坏"的 bug,
而且带了一个听感损失明显的实验开关。补丁是累积式的,已包含 0.1.1 的全部内容。

相对 0.1.0 / 0.1.1 的修复

# 问题 修复
1 同一次会话里第二次渲染起语无伦次、时长暴涨(18 s 句子渲染成 49 s)。根因:HuBERT 的全零注意力 mask 建图时只写一次,却放在 ggml_gallocr 的可复用 arena 里,第一次推理结束时被最后一层 FFN 的中间结果覆盖 → 第二次起注意力被随机加权 → 参考语义码退化成常数 → AR 失去参考条件 mask 改成独立 ctx/buffer 的常驻张量。回归测试 tests/test_prep_repeat.cpp
2 参考音频每次渲染都重新预处理(GAG 每次渲染都把它上传成新的临时路径,按路径做键的缓存永远 miss) 缓存改按文件内容(XXH3-64)命中;prep 700→0 ms
3 参考侧 decode_encp 每段都重算(长句切 6 段 = 6 次) 引擎内按(参考码、参考音素、ge)记忆化,段间/请求间复用;cond 650→450 ms
4 目标文本 G2P + BERT 每段每次请求都重算(50–450 ms/段) 按 (lang, text) 缓存,sidecar 的 /g2p 也加了缓存;g2p 200→0 ms
5 切 v5dev / v5turbo 声线直接报错 engine load failed for voice: v5dev(6 ms 就失败)。根因:GUI 传的是相对路径 --models runtime/models,与 manifest 里的相对文件名叠加成不存在的路径 服务端把 --models 与 manifest 路径都解析成绝对路径,加载前检查文件并点名缺哪个;GUI 也改传绝对路径
6 GUI"音色"下拉只有 default 取声线列表的线程结果与 deleteLater 抢跑导致信号丢失,改为 finished 里读回结果 + 失败重试;"音色"与"模型版本"双向联动
7 "跳过首步"勾了无效 /tts 与 /batch(cut0) 路径漏传 skip_first_step,已接上
8 "CFG跳过"功能移除 实测对音色影响明显(跳 30% 时 mel relL1 1.6e-3,可辨),不是免费加速。引擎、HTTP API、日志、文档、GUI 控件全部删除;请求里带 dit_cfg_off_t 会被忽略。dit_uncond_reuse 保留
9 日志看不出实际用的 cfg / 步数 / 声线 [tts] 日志打印 voice=v5dev(v5dev) … cfg=1.30 steps=32 以及 reuse ref/text/fea 缓存命中;请求 jsonl 同步带上

0.1.1 的内容同样包含:中英/日英/粤英/韩英混合、auto_yue、非 ASCII 参考音频路径、
语种不匹配的明确报错、sidecar 强制 UTF-8、GUI 支持 mp3/flac/ogg/m4a/aac/aiff/opus/wma 参考音频。

下载

文件 大小 sha256 用途
GSV.CPP-win64-patch-0.1.2.zip 15,186,159 B a6733730f64b079d91bdd893957ae45c17d8b9dbfe83d569196e51a12c0834e0 累积补丁,覆盖到 GSV.CPP-win64-0.1.0.zip 一键包即可,无需重下 3 GB
gsv.cpp-windows-x64-vulkan.zip 15,130,987 B 5d7452d41607125dbcfabcb6d80c6e9230c8a162e3b3c50cbfcd54a1f84db5e0 独立引擎(gsv_server.exe + ggml DLL),自备模型与文本侧车

完整一键包(3.16 GB,含模型、嵌入 Python、前端数据)与模型权重在 HuggingFace:
KakaruHayate/GSV.CPP
(windows/GSV.CPP-win64-0.1.0.zip + patch/GSV.CPP-win64-patch-0.1.2.zip)。

Linux 构建本轮没有更新(本机无 Linux 工具链)。HuggingFace 上 server/ 里的 tar.gz 仍是
上一版,不含上述修复;需要 Linux 请按 docs/build.md 从源码构建。

安装(已有一键包 0.1.0 / 0.1.1 / 旧 0.1.2)

  1. 完全关闭 GAG(任务管理器里确认 gsv_server.exe 与 python.exe 都已退出)
  2. 把补丁 zip 内所有文件解压到一键包目录,选择覆盖
  3. 重新双击 Start GAG.bat

补丁顺序无关:从 0.1.0 直接打、或打过 0.1.1 / 旧 0.1.2 再打,结果一致。

说明

  • 想用 CFG(cfg_rate=1.30)必须选 v5dev 声线;default 与 v5turbo 的 cfg_rate 都是 0。
  • 若某个声线报 engine load failed,新版会直接写出缺哪个 gguf 文件;文件都在却失败才是显存问题。
  • 明文:GAG_config.json 不会被补丁覆盖;旧预设里残留的 dit_cfg_skip 字段会被忽略。