Home

xlocllm Wiki

Эта wiki описывает xlocllm как локальный SDK для запуска AI/ML моделей из Python. Материалы собраны из текущего кода, README.md, docs.md и каталогов моделей проекта.

Быстрые входы:

• Quickstart - установка, первый runtime и OpenAI-compatible клиент.
• About - архитектура SDK, режимы и локальное состояние.
• Functions Python - API Python.
• Models catalog - каталог моделей: native, browser WebGPU и browser CPU/WASM.
• Use cases - где библиотека подходит лучше всего.

Состояние источника:

Область	Значение
Python package	xlocllm 1.1.0, Python >=3.10
Native catalog	300 моделей, 24 типов unit
Web catalog	217 моделей
Default mode	native
Основные backend	llama.cpp/GGUF, ONNX Runtime, MLC WebLLM, Transformers.js

GitHub Wiki технически хранит страницы плоско. Иерархия из ТЗ отражена в _Sidebar.md и в ссылках между страницами.