altgo：在桌面端离线跑 SenseVoice-Small int8 做语音输入

[ouyangjiahong26]

分享一个使用 SenseVoice-Small 的开源桌面应用 altgo，仓库地址：https://github.com/cislunarspace/altgo

功能：长按热键说话，松开即转写进剪贴板，覆盖中、英、日、韩、粤（auto 检测），全离线。

• 推理用 model.int8.onnx，经 sherpa-onnx 部署，识别器内嵌在程序里并常驻内存
• 实测 int8 量化在桌面 CPU 上对这种 10 秒以内的短语音，转写延迟和准确率都表现很好，非常适合语音输入场景
• 转写结果可再接 OpenAI 兼容 API 或 Anthropic API 做文本润色，可开关

[LauraGPT]

感谢分享这个实际采用案例。给后续使用者补充几处当前源码能核实的入口区别（altgo fad38985a73a6445c89bd4e0f222a924d8faa552）：

• 这是内嵌 sherpa-onnx 的 SenseVoice ONNX 路径，配套文件是 model.int8.onnx 和 tokens.txt，不要混用 Fun-ASR-Nano 原生 Transformers 权重。当前模型来源是 sherpa-onnx 的 SenseVoice 导出仓库。altgo 内置模型 SHA-256 与该 revision 的 LFS 元数据一致，词表实际内容的 SHA-256 也一致；本次没有下载或运行 ONNX 大模型。
• 示例配置是 language = "zh"，不是默认自动检测；识别器实现将空字符串归一化为 auto，也接受显式 auto。
• 示例的 polisher.level = "none" 关闭文本润色；启用远端润色后，转写文本会走所配置的 API。应将“本地转写”与“整个应用不访问网络”区分开：当前 README 还说明了模型下载和启动更新检查。当前 README 列出的平台是 Linux 和 Windows，尚不含 macOS。

这里是源码与模型来源核对，不是桌面热键、麦克风、断网运行或识别准确率的实测。方便补充你实测的 altgo 版本、CPU、样本时长，以及冷启动和模型常驻后的耗时吗？这样其他用户更容易复现短语音体验，也能避免把特定机器的结果当成通用性能结论。

本回复由 Codex 协助核对和整理。

[ouyangjiahong26]

感谢核对！按评论要的几项补充实测数据：

• 版本：altgo 2.6.11（commit fad3898，即你核对的那个）
• CPU：AMD Ryzen Threadripper 9960X（24 核 48 线程，4.2 GHz），threads = 0 自动满核
• SHA-256 复验：本地下载后的 model.int8.onnx 哈希与 revision 2365bae 的 LFS oid 一致（c71f0ce0…a2cd51），tokens.txt 亦一致；模型加载运行正常，中/英/日/韩/粤五个官方 test_wavs 样本 auto 检测全部识别正确
• 冷启动（模型加载）：0.87s。注明：OS 页缓存为热（测试前刚做过整文件哈希校验），重启后的真冷加载会略高于此值
• 模型常驻后的转写延迟（每样本预热 1 次后跑 5 轮取中位）：

样本时长	延迟（中位）	RTF
4.3s	0.135s	0.031
13.1s	0.227s	0.017
29.4s	0.590s	0.020

即典型输入（10 秒内短语音）松手后 0.13–0.23s 出字。测试方法：短样本用 sherpa-onnx 仓库自带的 test_wavs（真实人声），长样本为 Windows TTS 生成的 16kHz 单声道中文语音；基准走与生产一致的 transcribe_blocking 路径（sherpa-onnx 1.13.6，内嵌于主程序）。

---

本回复的测试执行与文本整理由 AI（ZCode / GLM）协助完成。