v0.0.1ダミーモデルでエンジンを起動すると/speakersなどが落ちる

[Yosshi999]

不具合の内容

エンジンをローカルのダミーモデルで起動しておいた状態で
GET /speakers を行うとInternal Server Errorになる

現象・ログ

エンジン側のログ

Traceback (most recent call last):
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\middleware\errors.py", line 165, in __call__
    await self.app(scope, receive, _send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\middleware\exceptions.py", line 62, in __call__
    await wrap_app_handling_exceptions(self.app, conn)(scope, receive, send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 53, in wrapped_app
    raise exc
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 42, in wrapped_app
    await app(scope, receive, sender)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 715, in __call__
    await self.middleware_stack(scope, receive, send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 735, in app
    await route.handle(scope, receive, send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 288, in handle
    await self.app(scope, receive, send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 76, in app
    await wrap_app_handling_exceptions(app, request)(scope, receive, send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 53, in wrapped_app
    raise exc
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 42, in wrapped_app
    await app(scope, receive, sender)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 73, in app
    response = await f(request)
               ^^^^^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\fastapi\routing.py", line 301, in app
    raw_response = await run_endpoint_function(
                   ^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\fastapi\routing.py", line 214, in run_endpoint_function
    return await run_in_threadpool(dependant.call, **values)
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\concurrency.py", line 37, in run_in_threadpool
    return await anyio.to_thread.run_sync(func)
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\anyio\to_thread.py", line 56, in run_sync
    return await get_async_backend().run_sync_in_worker_thread(
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\anyio\_backends\_asyncio.py", line 2461, in run_sync_in_worker_thread
    return await future
           ^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\anyio\_backends\_asyncio.py", line 962, in run
    result = context.run(func, *args)
             ^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\github\vv\voicevox_engine\voicevox_engine\app\routers\character.py", line 45, in speakers
    characters = metas_store.talk_characters(core_version)
                 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\github\vv\voicevox_engine\voicevox_engine\metas\MetasStore.py", line 221, in talk_characters
    return filter_characters_and_styles(self.characters(core_version), "talk")
                                        ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\github\vv\voicevox_engine\voicevox_engine\metas\MetasStore.py", line 98, in characters
    engine_character = self._loaded_metas[character_uuid]
                       ~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^
KeyError: '574bc678-8370-44be-b941-08e46e7b47d7'
Traceback (most recent call last):
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\middleware\errors.py", line 165, in __call__
    await self.app(scope, receive, _send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\middleware\exceptions.py", line 62, in __call__
    await wrap_app_handling_exceptions(self.app, conn)(scope, receive, send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 53, in wrapped_app
    raise exc
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 42, in wrapped_app
    await app(scope, receive, sender)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 715, in __call__
    await self.middleware_stack(scope, receive, send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 735, in app
    await route.handle(scope, receive, send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 288, in handle
    await self.app(scope, receive, send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 76, in app
    await wrap_app_handling_exceptions(app, request)(scope, receive, send)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 53, in wrapped_app
    raise exc
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 42, in wrapped_app
    await app(scope, receive, sender)
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 73, in app
    response = await f(request)
               ^^^^^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\fastapi\routing.py", line 301, in app
    raw_response = await run_endpoint_function(
                   ^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\fastapi\routing.py", line 214, in run_endpoint_function
    return await run_in_threadpool(dependant.call, **values)
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\concurrency.py", line 37, in run_in_threadpool
    return await anyio.to_thread.run_sync(func)
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\anyio\to_thread.py", line 56, in run_sync
    return await get_async_backend().run_sync_in_worker_thread(
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\anyio\_backends\_asyncio.py", line 2461, in run_sync_in_worker_thread
    return await future
           ^^^^^^^^^^^^
  File "...\miniconda3\envs\voicevox-dev\Lib\site-packages\anyio\_backends\_asyncio.py", line 962, in run
    result = context.run(func, *args)
             ^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\voicevox_engine\voicevox_engine\app\routers\character.py", line 70, in singers
    characters = metas_store.sing_characters(core_version)
                 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\voicevox_engine\voicevox_engine\metas\MetasStore.py", line 225, in sing_characters
    return filter_characters_and_styles(self.characters(core_version), "sing")
                                        ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "...\voicevox_engine\voicevox_engine\metas\MetasStore.py", line 98, in characters
    engine_character = self._loaded_metas[character_uuid]
                       ~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^
KeyError: '574bc678-8370-44be-b941-08e46e7b47d7'
INFO:     127.0.0.1:53461 - "GET /speakers HTTP/1.1" 500 Internal Server Error

再現手順

コア環境：voicevox_core-windows-x64-0.16.0-preview.0
エンジン環境：master branch b64ef12
エンジン起動コマンド

python run.py --voicelib_dir ..\voicevox_core-windows-x64-0.16.0-preview.0\lib\

期待動作

UIが起動する

VOICEVOXのバージョン

999.999.999

OSの種類/ディストリ/バージョン

• Windows
• macOS
• Linux

その他

[Hiroshiba]

issue作成ありです！

discordのこの辺りでも少し書いたのですが、おそらくコアが持つspeaker uuidと、エンジン側が持つ立ち絵リソースなどのspeaker uuidが一致していないためだと思います。

エンジン側はコアにある話者idのデータをエディタに返そうとして、ダミーコア内の話者idに合う画像などを探そうとしますが、エンジン側で用意してるダミー画像等が保存されてるのはエンジン側はのダミー話者idなので、コアの話者idの画像が見つからずにエラーになってる感じです。

以下転載：

これ僕もめっちゃ苦労しました。。。（結局解決しなかった）
原因はたぶんコアのmetas.json内のspeaker_idと、モック用のspeaker_idが異なり、画像等のメタデータが無いためかもです。。。
ちょっと具体的な対策案は思いついておらず。。。

とりあえずコア側のsampleのmetas.jsonをここのmockにある「トーク」のspeaker_uuidとstyles内のidに合わせればそのエラーは消えた記憶があります。（そして次のエラーが発生して諦めました。。）

あるいはかなりワークアラウンドですが、エラーになってるMetasStore.py内の_loaded_metasの中身に適当な空文字列を詰めてしまうとか、あるいはrouters\character.pyが返すリソースに直接空文字列を詰めるとかすれば、とりあえずエディタ側は画像を読み込めないだけで動作チェックはできるかもです…！！

[Yosshi999]

workaround

• 呼び出しているコアのlib/model/sample.vvm (実態はzip) の内部のmetas.jsonを編集し、voicevox_engine/resources/character_info内のuuidのみにする
• core_versionにmockを指定して各種APIを叩く

core_versionに何も指定しないとき、defaultでlatestが選択されるはずだが、登録されているバージョンにsemantic versioningに従わないmockが含まれているため、落ちる

Traceback (most recent call last):
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\middleware\errors.py", line 165, in __call__
    await self.app(scope, receive, _send)
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\middleware\exceptions.py", line 62, in __call__
    await wrap_app_handling_exceptions(self.app, conn)(scope, receive, send)
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 53, in wrapped_app
    raise exc
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 42, in wrapped_app
    await app(scope, receive, sender)
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 715, in __call__
    await self.middleware_stack(scope, receive, send)
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 735, in app
    await route.handle(scope, receive, send)
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 288, in handle
    await self.app(scope, receive, send)
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 76, in app
    await wrap_app_handling_exceptions(app, request)(scope, receive, send)
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 53, in wrapped_app
    raise exc
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\_exception_handler.py", line 42, in wrapped_app
    await app(scope, receive, sender)
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\routing.py", line 73, in app
    response = await f(request)
               ^^^^^^^^^^^^^^^^
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\fastapi\routing.py", line 301, in app
    raw_response = await run_endpoint_function(
                   ^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\fastapi\routing.py", line 214, in run_endpoint_function
    return await run_in_threadpool(dependant.call, **values)
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\starlette\concurrency.py", line 37, in run_in_threadpool
    return await anyio.to_thread.run_sync(func)
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\anyio\to_thread.py", line 56, in run_sync
    return await get_async_backend().run_sync_in_worker_thread(
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\anyio\_backends\_asyncio.py", line 2461, in run_sync_in_worker_thread
    return await future
           ^^^^^^^^^^^^
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\anyio\_backends\_asyncio.py", line 962, in run
    result = context.run(func, *args)
             ^^^^^^^^^^^^^^^^^^^^^^^^
  File "C:\Users\***\github\vv\voicevox_engine\voicevox_engine\app\routers\tts_pipeline.py", line 589, in supported_devices
    supported_devices = tts_engines.get_engine(version).supported_devices
                        ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "C:\Users\***\github\vv\voicevox_engine\voicevox_engine\tts_pipeline\tts_engine.py", line 814, in get_engine
    return self._engines[self._latest_version()]
                         ^^^^^^^^^^^^^^^^^^^^^^
  File "C:\Users\***\github\vv\voicevox_engine\voicevox_engine\tts_pipeline\tts_engine.py", line 805, in _latest_version
    return get_latest_version(self.versions())
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "C:\Users\***\github\vv\voicevox_engine\voicevox_engine\utility\core_version_utility.py", line 10, in get_latest_version
    return str(max(map(Version.parse, versions)))
               ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "C:\Users\***\miniconda3\envs\voicevox-dev\Lib\site-packages\semver\version.py", line 644, in parse
    raise ValueError(f"{version} is not valid SemVer string")
ValueError: mock is not valid SemVer string

[Hiroshiba]

@Yosshi999 急ごしらえですが、streaming api用のVVMを作りました！！！
project-streaming-talkブランチです

VOICEVOX CORE 0.16.0なら動くと思います！
（たぶん 0.16.0-preview.0とか.1とかでも動く･･･はず。）

これもENGINEのダミーspeaker_uuidはこのvvm（製品版）のspeaker_uuidと合わないので、結局同じようなエラーは出ると思います。
でも既存VOICEVOX ENGINEの製品版のspeaker_uuidとは一緒なので、既存エンジンのファイルを無理やり詰め替えたら動くかもです！！

たぶんこういう手順で･･･！！

0. project-streaming-talkブランチのvvmを全部ダウンロード（たぶん全部じゃなくても良いはず）
1. 今のdevビルド0.24.0-devからエンジンをダウンロード、.7z.001なファイルの拡張子を7zにして展開
2. 中身を見てファイルを入れ替えていく
   • voicevox_core.dllをコアのと置き換え
   • onnxruntime.dllがあるとこにvoicevox_onnxruntime.dllも置く（たぶんファイル名変えたらダメ）
   • たぶんmodelsディレクトリのしたに.vvmを全部置く（以前のは消しても残してもどっちでも良さそう）
3. mainブランチのエンジンのrun.pyで--voicevox_dir引数を与えて起動
   • 起動しなかったときの原因切り分けのために、入れ替えを試す前に１回--voicevox_dir引数で起動を試しておくと良さそう
4. 起動するはず
5. 普通にエディタからエラーなくPOSTなどが叩けるはず

[Yosshi999]

@Hiroshiba とりあえず0.vvmだけ入れて動かしたらこういうエラーが出たんですが分かりますか？

voicevox_engine.core.core_wrapper.CoreError: `...\voicevox_engine-windows-cpu-0.24.0-dev\windows-cpu\model\0.vvm`の読み込みに失敗しました: モデルデータを読むことができませんでした
INFO:     127.0.0.1:53114 - "POST /initialize_speaker?speaker=2 HTTP/1.1" 500 Internal Server Error

[Hiroshiba]

う･･･ちょっとわからないかもしれません･･･。
0.vvmは見えてそう･･･。voicevox_onnxruntime.dllがなくてonnxruntime.dllしかないとか･･･？

とりあえず手元のmacからはこういうコマンドで動きました 🙇
hiho_stream_apiというディレクトリに全部入れていく感じで作っています。

set -eux

root_dir=./hiho_stream_api

mkdir -p "$root_dir"

# コアのダウンローダーを用意
if [ ! -f "$root_dir/download" ]; then
  curl -sL \
    "https://github.com/VOICEVOX/voicevox_core/releases/download/0.16.0/download-osx-arm64" \
    -o "$root_dir/download"
  chmod +x "$root_dir/download"
fi

# コアのダウンローダーで必要なの取得
if [ ! -d "$root_dir/voicevox_core" ]; then
  "$root_dir"/download \
    --c-api-version 0.16.0 \
    --onnxruntime-version voicevox_onnxruntime-1.17.3 \
    --only c-api onnxruntime additional-libraries \
    --output "$root_dir/voicevox_core"

  mv "$root_dir"/voicevox_core/onnxruntime/lib/libvoicevox_onnxruntime.*.dylib "$root_dir"/voicevox_core/onnxruntime/lib/libvoicevox_onnxruntime.dylib
fi

# エンジン用のライブラリディレクトリを用意
if [ ! -d "$root_dir/voicelib" ]; then
  mkdir "$root_dir/voicelib"
  cp "$root_dir/voicevox_core/c_api/lib/libvoicevox_core.dylib" "$root_dir/voicelib/libvoicevox_core.dylib"
fi
if [ ! -d "$root_dir/voicelib/model" ]; then
  mkdir "$root_dir/voicelib/model"
  wget https://github.com/VOICEVOX/voicevox_vvm/raw/refs/heads/project-streaming-talk/vvms/0.vvm \
    -O "$root_dir/voicelib/model/0.vvm"
fi

# エンジンを用意
if [ ! -d "$root_dir/engine" ]; then
  mkdir "$root_dir/engine"
  wget https://github.com/VOICEVOX/voicevox_engine/releases/download/0.24.0-dev/voicevox_engine-macos-arm64-0.24.0-dev.7z.001 \
    -O "$root_dir/engine/voicevox_engine.7z"
  tar xf "$root_dir/engine/voicevox_engine.7z" -C "$root_dir/engine"

  rm "$root_dir"/engine/macos-arm64/model/*
  rsync -av "$root_dir"/voicelib/model/ "$root_dir"/engine/macos-arm64/model/
  rsync -av "$root_dir"/voicelib/libvoicevox_core.dylib "$root_dir"/engine/macos-arm64/libvoicevox_core.dylib
  rsync -av "$root_dir"/voicevox_core/onnxruntime/lib/libvoicevox_onnxruntime.dylib "$root_dir"/engine/macos-arm64/libvoicevox_onnxruntime.dylib
fi

# 実行
python run.py \
  --voicevox_dir "$root_dir/engine/macos-arm64"

[qryxip]

純正ONNX Runtimeを読んでしまったというのはありえそうですね。まあVOICEVOX COREとしては本来はこの↓エラーが"caused by"でくっついているのですが、

https://github.com/VOICEVOX/ort/blob/1ebb5768a78313f9db70a35c497816ec2ffae18b/src/error.rs#L267-L268

❯ python
Python 3.10.16 (main, Jan  1 2025, 22:31:19) [GCC 14.2.1 20240910] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> from voicevox_core.blocking import Onnxruntime, OpenJtalk, Synthesizer, VoiceModelFile
>>> ort = Onnxruntime.load_once(filename="./libonnxruntime.so.1.17.1")
>>> ojt = OpenJtalk("dict/open_jtalk_dic_utf_8-1.11")
>>> synth = Synthesizer(ort, ojt)
>>> vvm = VoiceModelFile.open("./0.vvm")
>>> synth.load_voice_model(vvm)
Exception: This ONNX Runtime does not support "vv-bin" format (note: load/link `voicevox_onnxruntime` instead of `onnxruntime`)

The above exception was the direct cause of the following exception:

Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
voicevox_core.InvalidModelDataError: `./0.vvm`の読み込みに失敗しました: モデルデータを読むことができませんでした

compatible_engineでは現在の実装だと"caused by"部分を切り捨ててしまってるので…。

@Yosshi999 この↓warningは出てますかね？

https://github.com/VOICEVOX/voicevox_core/blob/0.16.0/crates/voicevox_core_c_api/src/compatible_engine.rs#L41-L42

[Hiroshiba]

手元の Windows だとstream版VVMで動いたのでコマンドをメモ書きします！　参考になれば･･･！！

set -eux

root_dir=./hiho_stream_api

mkdir -p "$root_dir"

if [ ! -f "$root_dir/download" ]; then
  curl -sL \
    "https://github.com/VOICEVOX/voicevox_core/releases/download/0.16.0/download-windows-x64.exe" \
    -o "$root_dir/download"
  chmod +x "$root_dir/download"
fi

if [ ! -d "$root_dir/voicevox_core" ]; then
  "$root_dir"/download \
    --c-api-version 0.16.0 \
    --onnxruntime-version voicevox_onnxruntime-1.17.3 \
    --only c-api onnxruntime additional-libraries \
    --output "$root_dir/voicevox_core"

  mv "$root_dir"/voicevox_core/onnxruntime/lib/voicevox_onnxruntime.dll "$root_dir"/voicevox_core/onnxruntime/lib/voicevox_onnxruntime.dll
fi

# エンジン用のライブラリディレクトリを用意
if [ ! -d "$root_dir/voicelib" ]; then
  mkdir "$root_dir/voicelib"
  cp "$root_dir/voicevox_core/c_api/lib/voicevox_core.dll" "$root_dir/voicelib/voicevox_core.dll"
fi
if [ ! -d "$root_dir/voicelib/model" ]; then
  mkdir "$root_dir/voicelib/model"
  wget2 https://github.com/VOICEVOX/voicevox_vvm/raw/refs/heads/project-streaming-talk/vvms/0.vvm \
    -O "$root_dir/voicelib/model/0.vvm"
fi

# エンジンを用意
if [ ! -d "$root_dir/engine" ]; then
  mkdir "$root_dir/engine"
  wget2 https://github.com/VOICEVOX/voicevox_engine/releases/download/0.24.0-dev/voicevox_engine-windows-directml-0.24.0-dev.7z.001 \
    -O "$root_dir/engine/voicevox_engine.7z"
  "C:\Program Files\7-Zip\7z.exe" x "$root_dir/engine/voicevox_engine.7z" -o"$root_dir/engine"

  rm "$root_dir"/engine/windows-directml/model/*
  cp "$root_dir"/voicelib/model/* "$root_dir"/engine/windows-directml/model/
  cp "$root_dir"/voicelib/voicevox_core.dll "$root_dir"/engine/windows-directml/voicevox_core.dll
  cp "$root_dir"/voicevox_core/onnxruntime/lib/voicevox_onnxruntime.dll "$root_dir"/engine/windows-directml/voicevox_onnxruntime.dll
fi

# 実行
python run.py \
  --voicevox_dir "$root_dir/engine/windows-directml"

[qryxip]

多分Pyinstallerだと駄目ということだと思います。
そしてcore_wrapper.pyを見てわかりました。 #1572 では不十分だった。

[qryxip]

#1572 では不十分だった。

これについてよく考えたのですが、VVORTを読み込む役割はload_runtime_libが負っているはずなので #1572 で十分なはず。

実際LinuxとmacOSだとちゃんと動いていますし、runtime_dirsが空でもない限りWindowsでも読み込んでくれてもよさそうですが、よくわからない…。
https://github.com/qryxip/voicevox_engine/actions/runs/14562288855

[Hiroshiba]

お、どういう状況でしょうか？ 👀
（状況がわかれば誰か助けてくれるかもしれない）

[qryxip]

起こっていることとしては(多分)「WindowsのPyinstallerでできたrun.exeが、voicevox_onnxruntime.dllを読み込んでくれない」という感じですね。

とりあえず調査のためにruntime_dirsをprintデバッグしてみましたが、これについては特におかしなことにはなっていないようです。

root_dir=WindowsPath('D:/a/voicevox_engine/voicevox_engine/dist')
runtime_dirs=[WindowsPath('D:/a/voicevox_engine/voicevox_engine/dist')]
2025-04-22T13:34:44.179837+00:00  WARN voicevox_core::compatible_engine: ONNX Runtimeのロードまたは初期化ができませんでした
2025-04-22T13:34:44.179939+00:00  WARN voicevox_core::compatible_engine: falling back to `onnxruntime.dll`
2025-04-22T13:34:44.180892+00:00 ERROR voicevox_core::helpers: ONNX Runtimeのロードまたは初期化ができませんでした
2025-04-22T13:34:44.180948+00:00 ERROR voicevox_core::helpers: Caused by: LoadLibraryExW failed
2025-04-22T13:34:44.180988+00:00 ERROR voicevox_core::helpers: Caused by: The specified module could not be found. (os error 126)

https://github.com/qryxip/voicevox_engine/actions/runs/14595825274/job/40942305195

(注: 純正ONNX RuntimeのフォールバックまでコケているのはおそらくGHA環境だからで、普通のPCだとC:\Windows\System32\onnxruntime.dllが読み込まれる)

[qryxip]

調査したところ、こういう感じにコケているようでした。

Failed to load dynlib/dll 'D:\\a\\voicevox_engine\\voicevox_engine\\dist\\voicevox_onnxruntime.dll'. Most likely this dynlib/dll was not found when the application was frozen.

onnxruntime-builderでビルドした純正ORTを使っても同様でした。

Failed to load dynlib/dll 'C:\\Users\\ryo\\Downloads\\windows-cpu\\onnxruntime.dll'. Most likely this dynlib/dll was not found when the application was frozen.

しかしmicrosoft/onnxruntimeから配布されている公式純正ORTだと普通に読み込めるようでした。なので「MicrosoftがビルドされているONNX Runtime」と「我々がGitHub上でビルドしているONNX Runtime」の違いによる問題だと思います。ちなみに私の予想としてはエラーメッセージは不正確で、問題なのは"this"ではくその先の依存だと思ってます。

それで解決方なのですが、正直次のようなものしか思い浮かびませんでした…。

1. onnxruntime-builder製ORTにあってMicrosoftビルドのORTには無いDLL依存をPyinstallerに教える
2. ORT/VVORTをdatasの方に入れるのをやめてbinariesに入れることでPyinstallerに何とかしてもらえるように祈る

[Hiroshiba]

@qryxip なるほどです！！

最近 @qryxip さんが報告してくださってるのって、もしかしてこのissue（v0.0.1ダミーモデルでエンジンが起動すると/speakersなどが落ちる）とは違ってたりしますかね･･･？
だとすると多分、このことについて詳しい方がいらっしゃっても、ここにたどり着けない気がします！

多分最近 @qryxip さんが話しているのは @qryxip さん自身が出しているプルリクエストでの話だと思うので、そちらに議論を積んでいくのはどうでしょう？
後で見やすいかなーと。

あるいは別issueとかのが良いきがしています。
情報がまとまっていないので追えないんですよね･･･。申し訳ないですがちょっと積極的に話を分離していけると･･･。