Skip to content

XeStrata xe0.1.40.2.2

Choose a tag to compare

View all tags
@MistVVK MistVVK released this 10 Oct 18:15
· 1080 commits to main since this release
xe0.1.40.2.2
e32b8b0

Warning

This is an old release. Get the latest from the latest release.
古いリリースです。最新版は最新のリリースから入れてください。

日本語 | English

日本語

入れ方

  1. GPU に合うパッケージを下の表から選んで取ってきます（SHA256SUMS も一緒に）。
  2. sha256sum -c SHA256SUMS --ignore-missing で確かめます。
  3. 入れます: sudo apt install ./xestrata-contrib-cuda13.1_0.1.40.2-3_amd64.deb（Ubuntu）か sudo dnf install ./xestrata-contrib-cuda13.4-0.1.40.2-3.x86_64.rpm（Fedora）。
  4. 端末で xestrata --setup を実行します。足りない GPU のライブラリと render グループは、入れるコマンドを表示して止まるので、それを実行してからもう一度 xestrata --setup を実行します。

Note

NVIDIA の GPU を使わない場合は、どちらの CUDA のバージョンを使っても変わりありません。

GPU Ubuntu 26.04 Fedora 44
おすすめ: Intel、AMD（RDNA2 以降）、NVIDIA（Turing 以降） xestrata-contrib-cuda13.1 xestrata-contrib-cuda13.4
Intel、AMD（RDNA2 以降）、NVIDIA の Pascal と Volta（P100、P40、GTX 10 シリーズ、V100 など） xestrata-contrib-cuda12.4 なし
  • 自由ソフトウェアだけで動かす版（xestrata-free）は付けていません。docs/BUILD.ja.md の手順でソースから作れます。
  • 版が変わったので、前の版で --conversation-save に保存した会話は読み込めません。

直ったこと

  • Q2_0 で VRAM に収まらないとき: 最初の要求で落ちていた（SIGSEGV）のを直しました（issue #1、mobile2machan の修正）。報告した機械の Arc Pro B60 2 枚で、落ちずに答えることが確かめられています。
  • Intel のディスクリート GPU の起動時のフォールト: GPU がホストのメモリにアトミックな書き込みをしないようにしました。Arc Pro B60 で起動中に GPU がフォールトして UR_RESULT_ERROR_DEVICE_LOST で止まる報告（issue #2）への対策です。B70 では出力も速さも変わりません。
  • WSL 2: setup が止まらず、警告を出して先に進みます（GPU の見えない WSL 1 は今までどおり止まります）。

速くなったところ

  • serve の会話の続き: 短い続きを読む 2 つの経路のどちらが速いかを、その PC で測って選びます（今までは 64 トークンで固定）。64 トークンの続きの待ちが、RTX 4070 806 → 424 ms、RX 9060 XT 701 → 450 ms 前後、B70 431 → 366 ms。--short-read N で今までどおり固定もできます。

新しい機能

  • xestrata --bench: 自分の PC の速さを、リリースの表と同じ定義（generate・serve・通常使用）で測ります。記録はデータフォルダの records/ に書き、どこにも送りません。--bench-verbose で段階ごと・カーネルごとの時間、--bench-temperature で温度、--original-strata TAG で upstream と交互に比べられます。測り方は docs/BENCH.ja.md にあります。
  • 起動時の表示: 密な行列積を受け持つもの（oneMKL・rocBLAS・cuBLAS か、XeStrata のカーネル）を正しく出します。

upstream との速さの比較

XeStrata xe0.1.40.2.2 と upstream の Strata v0.1.42 を、同じ PC・同じモデル（Qwen3.8-Flash-Next IQ3_XXS）で比べました。generate はコードエージェントの入力を読ませて 256 トークンを書かせ、交互に 2 回ずつ測った中央値です。

Note

  • generate：温度 0（greedy）。差が ±1% 以内なら ≒ 同等です。
  • serve と通常使用：温度 0.7 で、それぞれのエンジンが自分の文を書くので、1 回ごとに中央値から 10% 前後ずれることがあります。差が prefill は ±1% 以内、待ち・decode・最初のトークンは ±5% 以内なら ≒ 同等です。
  • どちらも、交互に 2 回ずつ測った中央値です。

AMD Radeon RX 9060 XT (16 GB): upstream v0.1.42 は HIP 版

generate（温度 0、トークン/秒）

形式・長さ prefill XeStrata xe0.1.40.2.2 prefill upstream v0.1.42 差 decode XeStrata xe0.1.40.2.2 decode upstream v0.1.42 差
IQ3_XXS 1K 582 279 ✅ 2.1 倍 49.1 48.0 ✅ +2%
IQ3_XXS 4K 774 378 ✅ 2.0 倍 47.3 44.7 ✅ +6%
IQ3_XXS 32K 842 385 ✅ 2.2 倍 51.4 45.9 ✅ +12%
IQ3_XXS 64K 845 374 ✅ 2.3 倍 50.2 38.9 ✅ +29%
IQ3_XXS 128K 830 362 ✅ 2.3 倍 39.9 31.9 ✅ +25%
IQ3_XXS 262K 798 339 ✅ 2.4 倍 33.5 36.3 ❌ −8%

serve と通常使用（温度 0.7）

計測 XeStrata xe0.1.40.2.2 upstream v0.1.42 差
serve 32K 最初の prefill (tok/s) 836 381 ✅ 2.2 倍
serve 32K 会話の続きの待ち (ms) 528 436 ❌ +21%
serve 32K decode (tok/s) 32.9 40.4 ❌ −19%
chat-ja 最初のトークン (s) 0.92 1.49 ✅ −38%
chat-ja decode (tok/s) 32.2 29.3 ✅ +10%
agent 最初のトークン (s) 5.80 11.67 ✅ −50%
agent prefill (tok/s) 673 338 ✅ 1.99 倍
agent decode (tok/s) 33.6 27.9 ✅ +20%

B70・RTX 4070：後で足す

English

Install

  1. Pick the package for your GPU from the table below and download it (with SHA256SUMS).
  2. Check it: sha256sum -c SHA256SUMS --ignore-missing.
  3. Install it: sudo apt install ./xestrata-contrib-cuda13.1_0.1.40.2-3_amd64.deb (Ubuntu) or sudo dnf install ./xestrata-contrib-cuda13.4-0.1.40.2-3.x86_64.rpm (Fedora).
  4. Run xestrata --setup in a terminal. If a GPU library or the render group is missing, it prints the command that installs it and stops; run that command, then xestrata --setup again.

Note

Without an NVIDIA GPU, either CUDA version works the same.

GPU Ubuntu 26.04 Fedora 44
Recommended: Intel, AMD (RDNA2 or later), NVIDIA (Turing or later) xestrata-contrib-cuda13.1 xestrata-contrib-cuda13.4
Intel, AMD (RDNA2 or later), NVIDIA Pascal and Volta (P100, P40, GTX 10 series, V100 and others) xestrata-contrib-cuda12.4 none
  • There is no free-software-only package (xestrata-free) in this release; build it from the source as docs/BUILD.md describes.
  • The version changed, so conversations saved with --conversation-save by an earlier version are not read.

Fixed

  • Q2_0 with experts outside VRAM: the engine crashed (SIGSEGV) at the first request; fixed (issue #1, mobile2machan's fix). The reporter confirmed on two Arc Pro B60s that it now answers.
  • A fault at start on Intel discrete GPUs: the GPU no longer writes host memory with atomic operations. This addresses the Arc Pro B60 report of a GPU fault at start that stopped the engine with UR_RESULT_ERROR_DEVICE_LOST (issue #2). On the B70 the output and the speed are unchanged.
  • WSL 2: setup warns and goes on instead of stopping (WSL 1, which has no GPU, still stops).

Faster

  • Follow-ups in serve: for a short follow-up, the engine measures on your PC which of its two ways of reading it is faster and takes that one (it was fixed at 64 tokens). The wait for a 64-token follow-up: RTX 4070 806 → 424 ms, RX 9060 XT 701 → about 450 ms, B70 431 → 366 ms. --short-read N still fixes it.

New

  • xestrata --bench: measures your PC with the release table's definitions (generate, serve, everyday use). The record goes to records/ in the data folder and is sent nowhere. --bench-verbose adds the time of each stage and kernel, --bench-temperature sets the temperature, and --original-strata TAG compares with upstream, alternating. The methods are in docs/BENCH.md.
  • The start-up line: it now names what computes the dense matrix products (oneMKL, rocBLAS, cuBLAS, or XeStrata's kernels).

Speed against upstream

XeStrata xe0.1.40.2.2 against upstream Strata v0.1.42 on the same PC and the same model (Qwen3.8-Flash-Next IQ3_XXS). generate reads a coding agent's input and writes 256 tokens; the median of two alternating runs.

Note

  • generate: temperature 0 (greedy). Within ±1% counts as ≈ equal.
  • serve and everyday use: temperature 0.7, each engine writing its own text, so a run can land about 10% off the median. Within ±1% for the prefill and ±5% for the wait, decode and first token counts as ≈ equal.
  • Both are the median of two alternating runs.

AMD Radeon RX 9060 XT (16 GB): upstream v0.1.42 is its HIP build

generate (temperature 0, tokens/s)

Type, length prefill XeStrata xe0.1.40.2.2 prefill upstream v0.1.42 difference decode XeStrata xe0.1.40.2.2 decode upstream v0.1.42 difference
IQ3_XXS 1K 582 279 ✅ ×2.1 49.1 48.0 ✅ +2%
IQ3_XXS 4K 774 378 ✅ ×2.0 47.3 44.7 ✅ +6%
IQ3_XXS 32K 842 385 ✅ ×2.2 51.4 45.9 ✅ +12%
IQ3_XXS 64K 845 374 ✅ ×2.3 50.2 38.9 ✅ +29%
IQ3_XXS 128K 830 362 ✅ ×2.3 39.9 31.9 ✅ +25%
IQ3_XXS 262K 798 339 ✅ ×2.4 33.5 36.3 ❌ −8%

serve and everyday use (temperature 0.7)

Measure XeStrata xe0.1.40.2.2 upstream v0.1.42 difference
serve 32K first prefill (tok/s) 836 381 ✅ ×2.2
serve 32K wait for a follow-up (ms) 528 436 ❌ +21%
serve 32K decode (tok/s) 32.9 40.4 ❌ −19%
chat-ja first token (s) 0.92 1.49 ✅ −38%
chat-ja decode (tok/s) 32.2 29.3 ✅ +10%
agent first token (s) 5.80 11.67 ✅ −50%
agent prefill (tok/s) 673 338 ✅ ×1.99
agent decode (tok/s) 33.6 27.9 ✅ +20%

B70, RTX 4070: added later

Assets 6
Loading