Repository navigation
gsv.cpp v0.1.2
gsv.cpp v0.1.2
C++/ggml inference server for GPT-SoVITS V5 (v5turbo 4-step DMD / v5dev 32-step). The whole
pipeline runs in C++ on a Vulkan or CPU ggml backend: AR → cond → DiT/CFM → HiFi-GAN.
本版是 0.1.2 的重发。早前那份 0.1.2 已下架:它的引擎有一个"第二次渲染开始崩坏"的 bug,
而且带了一个听感损失明显的实验开关。补丁是累积式的,已包含 0.1.1 的全部内容。
相对 0.1.0 / 0.1.1 的修复
| # | 问题 | 修复 |
|---|---|---|
| 1 | 同一次会话里第二次渲染起语无伦次、时长暴涨(18 s 句子渲染成 49 s)。根因:HuBERT 的全零注意力 mask 建图时只写一次,却放在 ggml_gallocr 的可复用 arena 里,第一次推理结束时被最后一层 FFN 的中间结果覆盖 → 第二次起注意力被随机加权 → 参考语义码退化成常数 → AR 失去参考条件 |
mask 改成独立 ctx/buffer 的常驻张量。回归测试 tests/test_prep_repeat.cpp |
| 2 | 参考音频每次渲染都重新预处理(GAG 每次渲染都把它上传成新的临时路径,按路径做键的缓存永远 miss) | 缓存改按文件内容(XXH3-64)命中;prep 700→0 ms |
| 3 | 参考侧 decode_encp 每段都重算(长句切 6 段 = 6 次) |
引擎内按(参考码、参考音素、ge)记忆化,段间/请求间复用;cond 650→450 ms |
| 4 | 目标文本 G2P + BERT 每段每次请求都重算(50–450 ms/段) | 按 (lang, text) 缓存,sidecar 的 /g2p 也加了缓存;g2p 200→0 ms |
| 5 | 切 v5dev / v5turbo 声线直接报错 engine load failed for voice: v5dev(6 ms 就失败)。根因:GUI 传的是相对路径 --models runtime/models,与 manifest 里的相对文件名叠加成不存在的路径 |
服务端把 --models 与 manifest 路径都解析成绝对路径,加载前检查文件并点名缺哪个;GUI 也改传绝对路径 |
| 6 | GUI"音色"下拉只有 default |
取声线列表的线程结果与 deleteLater 抢跑导致信号丢失,改为 finished 里读回结果 + 失败重试;"音色"与"模型版本"双向联动 |
| 7 | "跳过首步"勾了无效 | /tts 与 /batch(cut0) 路径漏传 skip_first_step,已接上 |
| 8 | "CFG跳过"功能移除 | 实测对音色影响明显(跳 30% 时 mel relL1 1.6e-3,可辨),不是免费加速。引擎、HTTP API、日志、文档、GUI 控件全部删除;请求里带 dit_cfg_off_t 会被忽略。dit_uncond_reuse 保留 |
| 9 | 日志看不出实际用的 cfg / 步数 / 声线 | [tts] 日志打印 voice=v5dev(v5dev) … cfg=1.30 steps=32 以及 reuse ref/text/fea 缓存命中;请求 jsonl 同步带上 |
0.1.1 的内容同样包含:中英/日英/粤英/韩英混合、auto_yue、非 ASCII 参考音频路径、
语种不匹配的明确报错、sidecar 强制 UTF-8、GUI 支持 mp3/flac/ogg/m4a/aac/aiff/opus/wma 参考音频。
下载
| 文件 | 大小 | sha256 | 用途 |
|---|---|---|---|
GSV.CPP-win64-patch-0.1.2.zip |
15,186,159 B | a6733730f64b079d91bdd893957ae45c17d8b9dbfe83d569196e51a12c0834e0 |
累积补丁,覆盖到 GSV.CPP-win64-0.1.0.zip 一键包即可,无需重下 3 GB |
gsv.cpp-windows-x64-vulkan.zip |
15,130,987 B | 5d7452d41607125dbcfabcb6d80c6e9230c8a162e3b3c50cbfcd54a1f84db5e0 |
独立引擎(gsv_server.exe + ggml DLL),自备模型与文本侧车 |
完整一键包(3.16 GB,含模型、嵌入 Python、前端数据)与模型权重在 HuggingFace:
KakaruHayate/GSV.CPP
(windows/GSV.CPP-win64-0.1.0.zip + patch/GSV.CPP-win64-patch-0.1.2.zip)。
Linux 构建本轮没有更新(本机无 Linux 工具链)。HuggingFace 上
server/里的 tar.gz 仍是
上一版,不含上述修复;需要 Linux 请按docs/build.md从源码构建。
安装(已有一键包 0.1.0 / 0.1.1 / 旧 0.1.2)
- 完全关闭 GAG(任务管理器里确认
gsv_server.exe与python.exe都已退出) - 把补丁 zip 内所有文件解压到一键包目录,选择覆盖
- 重新双击
Start GAG.bat
补丁顺序无关:从 0.1.0 直接打、或打过 0.1.1 / 旧 0.1.2 再打,结果一致。
说明
- 想用 CFG(
cfg_rate=1.30)必须选 v5dev 声线;default与v5turbo的cfg_rate都是 0。 - 若某个声线报
engine load failed,新版会直接写出缺哪个 gguf 文件;文件都在却失败才是显存问题。 - 明文:
GAG_config.json不会被补丁覆盖;旧预设里残留的dit_cfg_skip字段会被忽略。