Skip to content

Python Additional Catalog System

Mike edited this page May 28, 2026 · 1 revision

Additional: Catalog and System

API-документация для функций, которые не являются Unit, Runtime или ModelInfo methods.

Функция Зачем нужна Возвращает
xlocllm.model(name, unit=None, mode=None, quant=None) получить одну модель из каталога ModelInfo
xlocllm.models(...) получить список моделей по фильтрам list[ModelInfo]
xlocllm.cpu_fallback_model_ids(min_per_unit=2, mode=None) id моделей, пригодных без WebGPU set[str]
xlocllm.supports_cpu_fallback(model_dict) проверить CPU/WASM fallback для raw catalog entry bool
xlocllm.supports_reasoning(model_dict) проверить reasoning support по raw catalog entry bool
xlocllm.status() сводный статус known bridges/runtimes/models/resources dict
xlocllm.benchmark(type=None, mode=None, ping_hf=True, timeout=2.0, browser=True, browser_timeout=15.0, port=None) снимок hardware/runtime и рекомендации fast/quality для unit type dict

Parameters

benchmark():

Параметр Описание
type unit type для рекомендаций, например LLM
mode native или web
ping_hf проверять latency до Hugging Face
timeout timeout сетевых/системных probes
browser в web режиме временно открыть mini browser для проверки WebGPU/WebNN/NPU
browser_timeout сколько ждать browser probe
port порт временного bridge

models() filters описаны отдельно: Python Model Syntax.

Clone this wiki locally