Repository navigation
Releases
Rime VMenu 全家桶 1.1.0 —— 语音 GPU 加速(CPU/GPU 双包)+ 修好设置窗口抹掉配置的 bug
Rime VMenu 全家桶 1.1.0
本版主题:语音识别支持 GPU 加速,识别更快、CPU 占用再降一半。
下载哪个?先看你有没有 N 卡
| 文件 | 适合谁 | 大小 |
|---|---|---|
RimeVMenu-Setup-1.1.0.exe |
没有 NVIDIA 显卡(或不想折腾)。语音走 CPU,整机占用约 26% | 约 1.1 GB |
RimeVMenu-1.1.0.zip |
同上,但想手动 / 绿色安装,或用小狼毫官方 rime-install 导入配置 |
约 1.1 GB |
RimeVMenu-Setup-1.1.0-GPU.exe |
有 NVIDIA 显卡。自动用 GPU 推理 + 装好 CUDA 运行时,开箱即用 | 约 1.75 GB |
RimeVMenu-1.1.0-GPU.zip |
同上,zip 版 | 约 1.75 GB |
两个版本功能 100% 一样,区别只有识别速度和 CPU 占用。
GPU 版多出来的 600 多 MB 是 CUDA 运行时(cuBLAS 等),没 N 卡的话装了也用不上,所以分开出包。
不确定?装 CPU 版就行——装完打开设置窗口,「语音识别设备」卡片会告诉你检测到了什么。
如果它提示「检测到 N 卡但当前是 CPU 版包」,再换 GPU 版即可,换装不会丢词库。反过来也不会出错:GPU 版装在没 N 卡的机器上会自动回落 CPU,不会报错、不会哑掉。
GPU 到底快多少
同一台机器(i7-13620H + RTX 5060 Laptop,识别同一段 6.2 秒中文语音):
| 1.0.0(默认 16 线程) | CPU 版(4 线程) | GPU 版(CUDA) | |
|---|---|---|---|
| 识别耗时 | 0.52 s | 0.43 s | 0.19 s |
| 整机 CPU 占用 | 59% | 26% | 10.9% |
| 识别结果 | 今天天气真好,我们去公园散步吧。 |
完全一致 | 完全一致 |
GPU 相比 CPU 版快约 2.3 倍,CPU 占用再降一半多。识别率依旧零损失——同一份模型权重,只是算力换了个地方跑。
怎么用(不用配置)
设置窗口 →「语音输入」页 → 新增两张卡片:
① 语音识别设备(GPU 加速)
- 下拉三选一:自动(推荐) / 仅 CPU / 强制 GPU
- 自动 = 能用 GPU 就用,用不了静默回落 CPU,不用管
- 卡片上直接显示检测到的显卡型号和显存,以及当前实际生效的是哪个
- 没生效时会说清楚为什么(没检测到 N 卡 / 装的 CPU 版包 / 手动选了 CPU)
② 语音识别 CPU 占用
- 线程数滑块(1 ~ 物理核数),实时显示预估占用档位
- 用 GPU 时滑块自动置灰并注明「当前用 GPU,线程数不生效」——因为 GPU 推理时 CPU 只做前后处理
不想开设置窗口,直接改 <小狼毫用户目录>\voice-settings.txt:
asr_threads=4
asr_device=autoasr_device 填 auto / cpu / gpu,非法值自动退回 auto;asr_threads 填 0、999、abc 也会退回默认 4。
改完重新打开一次语音输入(重启悬浮球)生效。
本版修的三个问题
1. 设置窗口会悄悄抹掉 CPU 优化配置(1.0.1 遗留 bug)
1.0.1 加了「CPU 占用」设置项,但设置窗口保存时是整文件重写 voice-settings.txt,
只写了标点开关和快捷键两项——于是你只要在设置窗口动一下任何语音开关,
asr_threads=4 就被静默删掉,llama.cpp 退回默认线程数,CPU 又被打满,而且没有任何提示。
现在两个字段都纳入读写,并且做了回归测试(读 → 改 → 写,断言字段仍在)。
顺带修好了 1.0.1 里那张卡片其实没出现在设置窗口的问题:当时误加在了遗留的 PowerShell 版本上。
2. 包里的 voice-*.py 是旧版(有 exe 在跑所以平时看不出)
安装包同时带了两套语音程序:.exe(打包好的,启动器优先用)和 .py(源码,Python 环境下的回落分支用)。
.exe 这次是重新编的、带 GPU 支持,但仓库根目录那两个 .py 副本漏了同步 ——
结果是同一份包里 exe 支持 GPU、py 只有 CPU。启动器优先走 exe,所以日常使用看不出来;
只有走 语音输入.bat / 语音输入-悬浮球.bat 的 Python 回落分支时才会静默退回 CPU。
现已同步,并在构建脚本里加了断言:打包前检查 voice-overlay.py / voice-input.py
必须认得 asr_device,否则直接报错中止,不允许再装出这种混合包。
3. CPU 版包里混进 CUDA 运行时
构建时第 1 步会把实时 Rime 目录整个拷进发布树,开发机里如果残留着测试用的 CUDA dll,
就会被一起打进去,让 CPU 版平白胖 600 多 MB。现在打包前会清空目标目录,
并且两个方向都加了断言:GPU 版必须带齐 CUDA dll(缺一个后端直接起不来,不是优雅降级),
CPU 版则必须一个都没有。
装好的功能
v功能菜单 —— 输入法里按v:设置窗口 / 剪贴板 / 快捷输入(计算、日期、农历、序号…)/ 常用语 / 原符号- 可视化设置窗口(原生
VMenuSettings.exe)—— 词库管理、剪贴板、模糊音开关、语音快捷键、防误触、语音识别设备 / CPU 占用 - 剪贴板历史 —— 后台自动记录,
v→2调用 - 常用语 / 个人词库 —— 设置窗口直接增删改,或用
加词.bat/词库管理.bat - 下一个候选词预测 —— 字级二元统计,打完一个字就提示下一个
- 前后鼻音模糊输入 —— an/ang、en/eng、in/ing、ian/iang、uan/uang 五对可单独开关
- 本地语音输入 —— 按住
Ctrl+Win说话、松开上屏,流式输出,全程离线 - 候选框增强 —— 一行 9 个候选,按
↓展开 4×9 方格,长英文自动截断 - 托盘入口 —— 右键托盘图标 →「输入法设置 (S)」
环境要求
- Windows 10 / 11 x64
- 小狼毫 Weasel(exe 包在检测不到时会自动拉起内置的 0.17.4 安装器)
- 全程不需要管理员权限(装进用户目录、只写
HKCU) - GPU 版另需:NVIDIA 显卡 + 已装驱动(安装包自带 CUDA 运行时,不用单独装 CUDA Toolkit)
升级方式
从 1.0.x 升上来直接覆盖安装即可,词库、常用语、剪贴板历史都会保留。
CPU 版 ↔ GPU 版之间互相切换也是直接覆盖装,配置和词库都不动。
安装前会自动停掉正在占用模型的 llama-server.exe,不会出现「文件被占用装不上」。
zip 用户:只想更新配置(方式 C)
小狼毫自带 rime-install.bat 可直接吃本 zip,但遵守官方规则:只复制顶层 *.yaml、*.txt 和 opencc\,
不复制 lua\、cn_dicts\ 和外挂 exe —— 适合给已部署好的机器覆盖更新配置。
"C:\Program Files\Rime\weasel-0.17.4\rime-install.bat" C:\RimePkg\RimeVMenu-1.1.0.zip
⚠️ zip 路径不能有空格、也不能加引号(rime-install.bat自身解析不了,会报 batch 语法错或误当成包名去 GitHub 下载)。请先把 zip 挪到无空格目录。
卸载
控制面板 →「RimeVMenu 全家桶」卸载:会停后台服务、还原托盘菜单改动、删除安装的文件。
你自己的词库、常用语、剪贴板历史会保留(已实测)。
校验
# CPU 版
RimeVMenu-Setup-1.1.0.exe 1197537817 bytes
sha256 A91642DCD3448BF79C78EC9DE2F853F53CEBF9330833B638F4532C9FE48000D1
RimeVMenu-1.1.0.zip 1202278080 bytes
sha256 BFAEEC488C89B371320288D4EB998AA63D5C6C5751531FCCFAC12CEC6157C4E0
# GPU 版
RimeVMenu-Setup-1.1.0-GPU.exe 1694367805 bytes
sha256 291E303E1E958F3B451699737C3DA28C5C70CFC991C7D5130919EE88BF5006CE
RimeVMenu-1.1.0-GPU.zip 1724051356 bytes
sha256 47C6C310BEF9695FBC0B29452F81BAFB93DEEC356410B81CA1C4782B26B08E87
从源码构建
# CPU 版
powershell -File packaging\build-release.ps1
# GPU 版(需要一份带 CUDA 的 llama.cpp 构建)
powershell -File packaging\build-release.ps1 -GpuGPU 版要求 llama.cpp 目录里有 CUDA 后端(ggml-cuda.dll + cublas64_13.dll +
cublasLt64_13.dll + cudart64_13.dll),且版本必须与 llama-server.exe 完全一致
(CUDA 构建和主程序是同一个 commit 编出来的,混版本会让后端加载失败)。
没有的话用 -CudaSrc <目录> 单独指定。
两个包的文件名不同(-GPU 后缀),可以共存、互不覆盖。
第三方组件
rime-ice / llama.cpp / Qwen3-ASR / 小狼毫 保留各自原有许可。
Rime VMenu 全家桶 1.0.1 —— 语音识别不再打满 CPU
Rime VMenu 全家桶 1.0.1
本版专治一件事:语音识别时 CPU 被打满。
两个包功能完全一致,按喜好选一个下载即可。
下载哪个?
| 文件 | 适合谁 | 怎么装 |
|---|---|---|
RimeVMenu-Setup-1.0.1.exe(1.1 GB) |
大多数人 | 双击 → 一路下一步。自动识别你的小狼毫用户目录、装好后台服务、托盘入口,并自动部署 |
RimeVMenu-1.0.1.zip(1.1 GB) |
想手动/绿色安装,或用小狼毫官方 rime-install 导入配置 |
解压后双击 安装.bat;只更新配置见下方说明 |
首次安装会带 971 MB 语音模型(Qwen3-ASR,本地离线推理),所以包体积大。不想要语音功能可以装完后删掉安装目录里的两个
*.gguf。
本版修了什么
语音识别不再把 CPU 打满(主要原因)
按住 Ctrl+Win 说话时,任务管理器会瞬间飙红——这是 llama.cpp 默认参数导致的,
跟你的机器性能无关。
llama.cpp 默认用 -t -1,即按逻辑核数开线程。在 16 逻辑核的机器上,
每次识别都会瞬间开满 16 个线程做空转自旋同步,于是任务管理器里就是一条直线冲顶。
实测(i7-13620H / 16 逻辑核,识别同一段 6.2 秒中文语音):
| 指标 | 1.0.0(默认 16 线程) | 1.0.1(4 线程) |
|---|---|---|
| 平均整机 CPU | 59.1% | 20.7% |
| 瞬时峰值 | 78%(打满) | 38.7% |
| 识别耗时 | 0.52 s | 0.59 s(+70 ms,无感) |
| 总 CPU 消耗 | 2.16 s | 1.94 s(反而更少) |
| 识别结果 | 今天天气真好,我们去公园散步吧。 |
完全一致 |
关键点有两个:
- 限制线程不会变慢,反而更省电。 超过物理核的线程纯粹在空转自旋,
实测把线程从 16 降到 4,总 CPU 消耗从 2.16 s 降到 1.94 s,
而墙钟只多了 70 毫秒——省掉的是线程同步开销,不是算力。 - 识别率零损失。 模型权重一个字没改,只是并行度不同,所以准确率完全不变。
可以自己调了
设置窗口 →「语音输入」页新增 「语音识别 CPU 占用」 卡片,滑块范围 1 ~ 物理核数
(自动检测,本机为 10),实时显示预估占用档位:
| 线程数 | 整机 CPU 约 |
|---|---|
| 2 | 12% |
| 4(默认) | 26% |
| 6 | 36% |
| 8+ | 48% 以上,不再推荐 |
滑块底下直接写了「超过物理核只会空转自旋,越开越慢」。
改完重新打开一次语音输入(或重启悬浮球)即生效。
不想开设置窗口也可以直接改 <你的小狼毫用户目录>\voice-settings.txt:
asr_threads=4填 0、999、abc 这类非法值会自动退回默认 4,不会把机器打死。
装好的功能
v功能菜单 —— 输入法里按v:设置窗口 / 剪贴板 / 快捷输入(计算、日期、农历、序号…)/ 常用语 / 原符号- 可视化设置窗口(原生
VMenuSettings.exe)—— 词库管理、剪贴板、模糊音开关、语音快捷键、防误触、语音 CPU 占用,改完即生效 - 剪贴板历史 —— 后台自动记录,
v→2调用 - 常用语 / 个人词库 —— 设置窗口直接增删改,或用
加词.bat/词库管理.bat - 下一个候选词预测 —— 字级二元统计,打完一个字就提示下一个
- 前后鼻音模糊输入 —— an/ang、en/eng、in/ing、ian/iang、uan/uang 五对可单独开关
- 本地语音输入 —— 按住
Ctrl+Win说话、松开上屏,流式输出,全程离线 - 候选框增强 —— 一行 9 个候选,按
↓展开 4×9 方格,长英文自动截断 - 托盘入口 —— 右键托盘图标 →「输入法设置 (S)」
环境要求
- Windows 10 / 11 x64
- 小狼毫 Weasel(exe 包在检测不到时会自动拉起内置的 0.17.4 安装器)
- 全程不需要管理员权限(装进用户目录、只写
HKCU) - 语音走 CPU 推理即可用;有 N 卡可换 llama.cpp 的 CUDA 版
llama-server.exe提速
升级方式
从 1.0.0 升上来直接覆盖安装即可,词库、常用语、剪贴板历史都会保留。
安装前会自动停掉正在占用模型的 llama-server.exe,不会出现「文件被占用装不上」。
zip 用户:只想更新配置(方式 C)
小狼毫自带 rime-install.bat 可直接吃本 zip,但遵守官方规则:只复制顶层 *.yaml、*.txt 和 opencc\,
不复制 lua\、cn_dicts\ 和外挂 exe —— 适合给已部署好的机器覆盖更新配置。
"C:\Program Files\Rime\weasel-0.17.4\rime-install.bat" C:\RimePkg\RimeVMenu-1.0.1.zip
⚠️ zip 路径不能有空格、也不能加引号(rime-install.bat自身解析不了,会报 batch 语法错或误当成包名去 GitHub 下载)。请先把 zip 挪到无空格目录。
卸载
控制面板 →「RimeVMenu 全家桶」卸载:会停后台服务、还原托盘菜单改动、删除安装的文件。
你自己的词库、常用语、剪贴板历史会保留(已实测)。
校验
RimeVMenu-Setup-1.0.1.exe sha256 CDFCF3D487487CFDF683FB509CD88961918DDF03734573F1672DD5BE6139961A
RimeVMenu-1.0.1.zip sha256 3B7401E9CB33AD85B2A9A864807306203116F12B69CC1924EFD54640C19E3BAB
从源码构建
见仓库 README.md:
clone → 下载Qwen模型.bat → powershell -File packaging\build-release.ps1,即可复现上面两个包。
第三方组件
rime-ice / llama.cpp / Qwen3-ASR / 小狼毫 保留各自原有许可。
Rime VMenu 全家桶 1.0.0 —— 小狼毫输入法增强套件(exe 直装包 + rime 导入 zip)
Rime VMenu 全家桶 1.0.0
把小狼毫(Weasel)输入法一步升级成全功能输入套件。两个包功能完全一致,按喜好选一个下载即可。
下载哪个?
| 文件 | 适合谁 | 怎么装 |
|---|---|---|
RimeVMenu-Setup-1.0.0.exe(1.1 GB) |
大多数人 | 双击 → 一路下一步。自动识别你的小狼毫用户目录、装好后台服务、托盘入口,并自动部署 |
RimeVMenu-1.0.0.zip(1.1 GB) |
想手动/绿色安装,或用小狼毫官方 rime-install 导入配置 |
解压后双击 安装.bat;只更新配置见下方说明 |
首次安装会带 971 MB 语音模型(Qwen3-ASR,本地离线推理),所以包体积大。不想要语音功能可以装完后删掉安装目录里的两个
*.gguf。
装好的功能
v功能菜单 —— 输入法里按v:设置窗口 / 剪贴板 / 快捷输入(计算、日期、农历、序号…)/ 常用语 / 原符号- 可视化设置窗口(原生
VMenuSettings.exe)—— 词库管理、剪贴板、模糊音开关、语音快捷键、防误触,改完即生效 - 剪贴板历史 —— 后台自动记录,
v→2调用 - 常用语 / 个人词库 —— 设置窗口直接增删改,或用
加词.bat/词库管理.bat - 下一个候选词预测 —— 字级二元统计,打完一个字就提示下一个
- 前后鼻音模糊输入 —— an/ang、en/eng、in/ing、ian/iang、uan/uang 五对可单独开关
- 本地语音输入 —— 按住
Ctrl+Win说话、松开上屏,流式输出,全程离线 - 候选框增强 —— 一行 9 个候选,按
↓展开 4×9 方格,长英文自动截断 - 托盘入口 —— 右键托盘图标 →「输入法设置 (S)」
环境要求
- Windows 10 / 11 x64
- 小狼毫 Weasel(exe 包在检测不到时会自动拉起内置的 0.17.4 安装器)
- 全程不需要管理员权限(装进用户目录、只写
HKCU) - 语音走 CPU 推理即可用;有 N 卡可换 llama.cpp 的 CUDA 版
llama-server.exe提速
zip 用户:只想更新配置(方式 C)
小狼毫自带 rime-install.bat 可直接吃本 zip,但遵守官方规则:只复制顶层 *.yaml、*.txt 和 opencc\,
不复制 lua\、cn_dicts\ 和外挂 exe —— 适合给已部署好的机器覆盖更新配置。
"C:\Program Files\Rime\weasel-0.17.4\rime-install.bat" C:\RimePkg\RimeVMenu-1.0.0.zip
⚠️ zip 路径不能有空格、也不能加引号(rime-install.bat自身解析不了,会报 batch 语法错或误当成包名去 GitHub 下载)。请先把 zip 挪到无空格目录。
卸载
控制面板 →「RimeVMenu 全家桶」卸载:会停后台服务、还原托盘菜单改动、删除安装的文件。
你自己的词库、常用语、剪贴板历史会保留(已实测)。
校验
RimeVMenu-Setup-1.0.0.exe sha256 469B39DC81394DD26DAF96EBE377FBA52DD2B8D8991AC40EA1BF92C5EBE5B586
RimeVMenu-1.0.0.zip sha256 7FC46D27EFD936FD0BBBD2AEF155AC7570D15DBDDD25203606CC254170A87B6E
从源码构建
见仓库 README.md:
clone → 下载Qwen模型.bat → powershell -File packaging\build-release.ps1,即可复现上面两个包。
本版修掉的问题(都经过实测)
- 覆盖安装必定失败并整机回滚(
MoveFile报 183 / "file appears to be in use")—— 已修 - 语音用过后
llama-server.exe占着模型导致装不上 —— 安装前会先停掉 - 不带
/DIR=安装时,文件会静默装到上次的目录而不是当前小狼毫用户目录(界面提示成功、功能却没生效)—— 已修 - zip 里中文文件名缺少 UTF-8 标志,在非 GBK 环境(macOS/Linux/.NET)会乱码 —— 已修
- 卸载会删掉用户自己的词库,与承诺相反 —— 已修,改为保留
第三方组件(rime-ice / llama.cpp / Qwen3-ASR / 小狼毫)保留各自原有许可。