Skip to content

Abyss v1.3.81 — 読み込み中の /health を 503 に / /health answers 503 while loading

Choose a tag to compare

@zephel01 zephel01 released this 30 Oct 11:42
· 444 commits to main since this release

変更点

  • 読み込み中の /health は 503(Retry-After: 5)を返すように変更。本文は従来どおり "status": "loading" と進み具合(段階・% / GB)。
    • 「200 = 準備完了」とみなすクライアント(llama-swap のヘルスチェックやスクリプトの待ちループ)が、エンジンの準備が終わるまで待つようになります。
    • Abyss Terminal は 503 の本文を読んで、これまでどおり読み込みの進み具合を表示します。
    • エンジンの準備が終わったら 200(v1.3.80 より前と同じ)。

Changes

  • /health answers 503 (Retry-After: 5) while the model loads; the body still says "status": "loading" and how far (stage, % / GB).
    • A client that reads 200 as "ready" (a llama-swap health check, a script's wait loop) now waits for the engine.
    • Abyss Terminal reads the 503's body and shows the loading progress as before.
    • 200 once the engine is ready, as before v1.3.80.