Python Bridge

Bridge

Bridge и NativeBridge - локальный HTTP control plane xlocllm. Они поднимают loopback endpoint, через который runtime управляет моделями и отдает OpenAI-compatible API.

Обычно вы не создаете bridge вручную: Runtime сам выбирает NativeBridge для mode="native" и Bridge для mode="web". Отдельный bridge API нужен для manual control, health checks, logs, cache operations, registry lookup и интеграции с уже запущенным local server.

Properties

Свойство	Описание
bridge.port	локальный port
bridge.base_url	http://127.0.0.1:<port>
bridge.url	http://127.0.0.1:<port>/v1 OpenAI-compatible URL
bridge.token	browser pairing token для web bridge
bridge.ttl	reserved lifetime field
bridge.live_time	optional server lifetime in seconds

Methods

Метод	Зачем нужен	Ключевые параметры
activate(daemon=False)	запустить bridge, если он еще не healthy	daemon
close()	shutdown bridge и убрать registry entry	-
status()	полный /xlocllm/v1/status snapshot	-
health()	проверить /health	-
processes()	bridge/window PIDs и alive flags	-
models()	backend catalog/model states или local fallback	-
units()	unit definitions	-
logs(limit=200)	bridge/backend logs	limit
wait_ready(timeout=None, require_browser=False)	дождаться health и optional browser pairing	timeout, require_browser
reload(units=None)	перезапустить backend runtime с units	units
set_active(unit, active=True, model=None)	активировать или деактивировать model	unit, active, model
delete_model(unit_or_model, model=None)	удалить cache одной модели	unit_or_model, model
delete_all_models(confirm=True)	удалить все model cache entries	confirm=True
invoke(endpoint, payload, timeout=None)	вызвать /xlocllm/v1/invoke/{endpoint}	endpoint, payload, timeout

Bridge vs NativeBridge

Класс	Режим	Когда используется
NativeBridge	native	default для локальных native engines: llama.cpp/GGUF и ONNX Runtime
Bridge	web	browser-backed runtime: paired browser, WebGPU/WebNN/WASM
BridgeGroup	registry helper	возвращается GetBridge() без port и агрегирует несколько bridges