Python Additional Types Exceptions

Additional: Types and Exceptions

UnitRequest

Low-level dataclass для bridge payload.

Поле/метод	Описание
type: str	тип unit
model: str	model id
reasoning: bool | None	reasoning default
options: dict | None	runtime options
to_payload()	вернуть dict payload

Mode scopes

Scope	Эффект
xlocllm.native	mode="native"
xlocllm.webgpu	mode="web", default browser device webgpu
xlocllm.web	mode="web", default browser device wasm
xlocllm.mode	глобальный default mode, native по умолчанию

native, web, webgpu являются ContextDecorator, поэтому работают как with и как decorator.

Exceptions

Exception	Когда возникает
XlocLLMError	base SDK exception
BridgeNotReady	bridge не reachable
BrowserNotConnected	bridge есть, browser runtime не paired
ModelNotFound	model id/alias не найден
UnitNotFound	unit type не найден
RuntimeNotFound	runtime id неизвестен

CLI

xlocllm status
xlocllm benchmark
xlocllm benchmark LLM
xlocllm benchmark LLM --mode web
xlocllm models --unit LLM
xlocllm models --unit LLM --mode web --no-webgpu
xlocllm model "Qwen-3.5-0.8b-fp32" --unit LLM
xlocllm run --unit LLM --model "Qwen-3.5-0.8b" --port 1146
xlocllm run --unit LLM --model "Qwen-3.5-0.8b" --mode web
xlocllm cache delete --mode native --unit LLM --model "Qwen-3.5-0.8b" --yes
xlocllm cache clear --mode native --yes
xlocllm bridge --port 1146
xlocllm bridge --mode web --port 1146