Skip to content

Sotto 0.1.2 — whisper 引擎内置,不再需要 Homebrew

Choose a tag to compare

@luogao luogao released this 13 Nov 04:18
· 4 commits to main since this release

whisper 引擎一起装进 app:不再需要 brew install whisper-cpp。

上一版(0.1.1)的问题

0.1.1 修好了模型,但引擎没修。app 里只有 sotto-transcribe,它去 PATH 里找 whisper-cli / whisper-server——这两个是 Homebrew 装的,你的机器上没有,于是:

找不到 whisper-cli / whisper-server。先 brew install whisper-cpp

也就是:模型在包里、引擎在别人机器上,「下载即用」还差最后一块。

这一版做了什么

把引擎和它的依赖一起打进去:

Contents/Resources/bin/      whisper-cli、whisper-server、sotto-transcribe
                             + ggml backend:blas、metal、cpu-apple_m1/m2_m3/m4
Contents/Resources/lib/      libwhisper、libggml、libggml-base、libomp
Contents/Resources/models/   ggml-medium-q5_0(514MB)

改了三处:

  1. scripts/bundle-whisper.sh(新增)从本机 Homebrew 取二进制和动态库,用 install_name_tool 把写死的 /opt/homebrew/... 改成 @executable_path/../lib、@loader_path,再重新 ad-hoc 签名
  2. Transcriber.childEnvironment 把包内 Resources/bin 放到子进程 PATH 最前面;backend .so 就放在 whisper-* 旁边——ggml 会按「可执行文件所在目录」找它们(试过 GGML_BACKEND_PATH,那条路是全量加载,会让 ggml_backend_dev_init 直接 abort,不能用)
  3. sotto-transcribe 的 server 启动超时 5s → 20s(冷启动要读 514MB 模型 + 初始化 Metal,5 秒实测不够,会白白退回慢的 CLI 路径)

验证

把环境做成「什么依赖都没有」的样子再跑,不是看代码:

前提:mv /opt/homebrew/Cellar/ggml/0.20.1/libexec → .off(backend 目录不可见)
      mv ~/.cache/whisper.cpp → .bak(没有缓存模型)
      PATH=/usr/bin:/bin:/usr/sbin:/sbin(没有 Homebrew)

结果:
  event=ready port=8931 ready_ms=184 rss_mb=822
  event=request path=server audio_ms=6529 decode_ms=850 chars=33
  text=这是一段用来测试言的语音大概十秒钟左右看看本地转写需要多久才能出字

日志同时显示:search path /opt/homebrew/Cellar/ggml/0.20.1/libexec does not exist
             loaded BLAS / MTL / CPU backend from <包内 bin>
packaging 验证:从已发布的 dmg 挂载后直接跑同样通过(path=server decode_ms=858)

也就是说这条链路上已经没有任何一处依赖用户机器上的 Homebrew。

升级

brew upgrade --cask sotto

或重新下载本页 DMG 覆盖安装。设置、热键都保留。

体积变化:516MB → 519MB(多了 4.3MB 的引擎和 backend)。