Skip to content

XeStrata xe0.1.39

Choose a tag to compare

View all tags
@MistVVK MistVVK released this 07 Oct 13:26
· 2909 commits to main since this release
xe0.1.39
5f1ed28

Warning

This is an old release. Get the latest from the latest release.
古いリリースです。最新版は最新のリリースから入れてください。

日本語 | English

日本語

XeStrata xe0.1.39 は、Qwen3.8-Flash-Next を Intel Arc か NVIDIA の GPU と普通の Linux の PC で動かすソフトウェアの、最初のリリースです。
版の数字は、取り込んだ Strata の版（0.1.39）に xe を付けたものです。

パッケージ

Ubuntu 26.04 と Fedora 44 向けの deb と rpm を付けています。どれか 1 つを入れます（一度に入るのは 1 つで、別のものを入れると入れ替わります）。

GPU Ubuntu 26.04 Fedora 44
Intel（自由ソフトウェアだけで動かす） xestrata-free xestrata-free
Intel（速さを重視する）、NVIDIA（Turing 以降）、その両方 xestrata-contrib-cuda13.1 xestrata-contrib-cuda13.4
NVIDIA の Volta（V100 など）、Intel と Volta の両方 xestrata-contrib-cuda12.4 なし 
sudo apt install ./xestrata-free_0.1.39_amd64.deb      # Ubuntu
sudo dnf install ./xestrata-free-0.1.39-1.x86_64.rpm   # Fedora
xestrata
  • contrib の版は、どれも Intel と NVIDIA の両方の GPU で動きます。版の違いは、ビルドに使った CUDA の版と、コードを持つ NVIDIA の世代だけです。
  • Intel の GPU だけの PC でも、速さを重視するなら contrib の版と oneMKL を入れます。プロンプトの密な行列積を oneMKL で計算し、XeStrata 自身のカーネルより少し速くなります（B70 で 3% ほど）。
  • free の版は、Intel の GPU のランタイム（Level Zero）を推奨（Recommends）にしていて、既定で入ります。
  • contrib の版は、GPU のメーカーのものを提案（Suggests）に留めています。使う GPU のものを入れてください。
    • Intel の GPU: sudo apt install libze1 libze-intel-gpu1 libigc2 libigdfcl2（Fedora は sudo dnf install oneapi-level-zero intel-level-zero）
    • NVIDIA の GPU: NVIDIA のドライバー。cuBLAS は Ubuntu の libcublas-13-1（cuda12.4 は libcublas12）、Fedora は NVIDIA の CUDA のリポジトリの libcublas-13-4
  • 取ってきたファイルは sha256sum -c SHA256SUMS --ignore-missing で確かめられます。
  • 詳しくは README を見てください。

前回の公開（0.1.0）からの主な変更

  • NVIDIA の GPU: 同じコードを NVIDIA の GPU 向けにもビルドする contrib のビルドを足し、既定にしました。Tensor Core の経路があり、Volta から RTX 50 まで動きます。
  • deb と rpm のパッケージ: xestrata のコマンドで設定と起動をします。データは XDG のフォルダに置き、xestrata --remove-data で消せます。
  • 密な行列積: contrib の版は、入っていれば oneMKL（Intel）と cuBLAS（NVIDIA）を oneMath 経由で使います。なければ XeStrata 自身のカーネルで計算します。
  • 複数の GPU: 同じ PC の 2 枚以上の GPU に層を分けて載せられます（--gpus、MULTIGPU）。
  • 複数の要求の同時処理: 設定の "parallel": N（--parallel N）で、要求をまとめて生成します（BATCHING）。
  • API: OpenAI の Responses API（POST /v1/responses）と、/v1/chat/completions の logprobs を足しました。
  • setup: Unsloth の UD-IQ4_XS を選べるようにし、--no-browser、--vision-tokens N、--draft-vocab fr を足しました。
  • 速さ: プロンプトのエキスパートの積を int8 の行列エンジンで計算するなど、Intel と NVIDIA の両方でプロンプトの処理と生成を速くしました。
  • Strata 0.1.39 の取り込み: upstream の 0.1.38 から 0.1.39 までの変更の一部を取り込みました。

English

XeStrata xe0.1.39 is the first release of the software that runs Qwen3.8-Flash-Next on an Intel Arc or NVIDIA GPU and an ordinary Linux PC.
The version is the version of Strata it has integrated (0.1.39), marked xe.

Packages

deb and rpm packages for Ubuntu 26.04 and Fedora 44 are attached. Install one of them (one is installed at a time, and installing another replaces it).

GPU Ubuntu 26.04 Fedora 44
Intel (free software only) xestrata-free xestrata-free
Intel (for speed), NVIDIA (Turing and later), or both xestrata-contrib-cuda13.1 xestrata-contrib-cuda13.4
NVIDIA Volta (V100 and others), or Intel and Volta xestrata-contrib-cuda12.4 none 
sudo apt install ./xestrata-free_0.1.39_amd64.deb      # Ubuntu
sudo dnf install ./xestrata-free-0.1.39-1.x86_64.rpm   # Fedora
xestrata
  • Every contrib package runs on both Intel and NVIDIA GPUs; they differ only in the CUDA version they were built with and the NVIDIA generations they have code for.
  • On a PC with Intel GPUs only, take a contrib package and oneMKL for speed: oneMKL then does the prompt's dense matrix products, a little faster than XeStrata's own kernels (about 3% on a B70).
  • The free package recommends Intel's GPU runtime (Level Zero), which is installed by default.
  • The contrib packages only suggest the GPU makers' software: install the one for your GPU.
    • An Intel GPU: sudo apt install libze1 libze-intel-gpu1 libigc2 libigdfcl2 (Fedora: sudo dnf install oneapi-level-zero intel-level-zero)
    • An NVIDIA GPU: NVIDIA's driver. cuBLAS is Ubuntu's libcublas-13-1 (libcublas12 for cuda12.4), and libcublas-13-4 from NVIDIA's CUDA repository on Fedora
  • sha256sum -c SHA256SUMS --ignore-missing checks the files you downloaded.
  • See the README for more.

The main changes since the previous publication (0.1.0)

  • NVIDIA GPUs: the contrib build, now the default, builds the same code for NVIDIA GPUs as well, with Tensor Core paths, from Volta to the RTX 50.
  • deb and rpm packages: the xestrata command sets up and starts the model; the data goes to the XDG folders, and xestrata --remove-data removes it.
  • Dense matrix products: the contrib packages use oneMKL (Intel) and cuBLAS (NVIDIA) through oneMath when they are installed, and XeStrata's own kernels otherwise.
  • Several GPUs: the model's layers can be split across two or more GPUs of one PC (--gpus, MULTIGPU).
  • Several requests at once: "parallel": N in the settings (--parallel N) generates requests together (BATCHING).
  • API: OpenAI's Responses API (POST /v1/responses) and logprobs on /v1/chat/completions.
  • setup: Unsloth's UD-IQ4_XS can be chosen; --no-browser, --vision-tokens N and --draft-vocab fr.
  • Speed: faster prompt processing and generation on Intel and NVIDIA GPUs, the prompt's expert products on the int8 matrix engines among them.
  • Strata 0.1.39: part of upstream's changes from 0.1.38 to 0.1.39.
Assets 8
Loading