Skip to content

本地 ASR (Qwen3-ASR):Windows 端流式方案待解 (M1) #256

@appergb

Description

@appergb

背景

feat/local-asr-qwen3 分支正在落地本地 ASR 功能(默认引擎 = Qwen3-ASR),用户需求三条硬指标:

  1. 真流式 / 实时输出
  2. 速度更快(接近或超过现有 Whisper-turbo)
  3. 不同量化等级可选

Mac 端选定 antirez/qwen-asr(纯 C + Accelerate / OpenBLAS),原生 2s chunk 流式 + 7-13× RT。

问题

antirez/qwen-asr 当前不支持 Windows 平台。 已知现状(2026-05 截图):

  • Build 脚本只覆盖 macOS (Accelerate) / Linux (OpenBLAS),未提及 Win
  • 也没有 GPU 后端(CPU + BLAS only),所以"装 CUDA 加速 Win"也不是它的选项

已评估的备选

路径 流式 Win 量化档 评估结论
antirez/qwen-asr ❌ 只 BF16 Mac 端首选,Win 阻塞
qwen3-asr-rs (candle + GGUF) ❌ 仅批式 ✅ Q4_0/Q4_K/Q8_0 Win 有希望但缺流式
官方 Qwen3-ASR vLLM (技术上) - 桌面应用嵌不进,淘汰
自行 fork antirez 加 Win port (待做) (待做) 工作量大,本期不投入

本期处理

  • Mac 端按 antirez/qwen-asr 路径推进
  • Windows 端 "本地 ASR" 选项灰掉 + tooltip "Windows 支持中"
  • 其余 Win 用户继续走云端 Volcengine / Whisper API(不影响)

跟进观察方向(issue 留以下选项追踪,不预设结论)

  • antirez 上游是否有 Windows port 计划:upstream issue / PR
  • qwen3-asr-rs 或 candle 生态是否实现流式解码
  • 评估 fork antirez 加 Win 移植的成本(msvc/mingw + OpenBLAS/MKL)
  • 评估改用 sherpa-onnx Paraformer-streaming 作 Win 流式备胎(非 Qwen3,但能给真流式)

不在本期范围

  • Win 端任何 local ASR 代码改动(仅 UI 灰掉)
  • 自行 port antirez 到 Win

本 issue 仅用于追踪决策与社区动态,关闭条件 = Windows 选项有可落地方案。

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions