LiteChat 是基于 llama.cpp WebUI fork 而来，针对企业内网部署进行了适配和优化。支持 vLLM、llama.cpp 等后端，可通过环境变量自定义后端地址和 App 名称，方便企业内部快速部署使用。

• 多后端支持 — 原生支持 vLLM、llama.cpp，兼容任何 OpenAI 格式的 API（Ollama、LM Studio 等）
• Think 模式切换 — 支持深度思考模型（如 DeepSeek R1、Qwen Thinking），可一键切换开启或关闭推理模式
• vLLM 适配 — 修复了 vLLM 流式输出时前端 Token 速度统计不准确的问题，适配 reasoning 字段和 usage 精确统计
• 自定义后端与名称 — 通过 .env 文件配置后端 API 地址和应用名称，无需修改代码即可适配企业环境
• 精简高效 — 移除了企业场景不需要的 MCP 模块，优化打包体积（初始加载从 6.2MB 降至约 150KB）
• 纯静态部署 — 构建后生成纯静态文件，任何 HTTP 服务器均可部署，无需 Node.js 运行环境
• Markdown 渲染 — 代码高亮、KaTeX 数学公式、表格等完整支持
• 会话分支 — 编辑、重新生成、分支导航
• 暗色/亮色主题 — 自动检测系统偏好

bun install

cp .env.example .env

编辑 .env 文件，修改后端地址和应用名称：

# 后端 API 地址
VITE_API_TARGET=http://localhost:8000

# 应用名称（显示在页面标题和侧边栏）
VITE_PUBLIC_APP_NAME=LiteChat

# API Key（可选）
# VITE_API_KEY=your-api-key-here

常见的后端配置：

# 开发模式（热更新）
bun run dev

# 构建生产版本
bun run build

开发服务器默认在 http://localhost:5173 启动。

webui/
├── src/
│   ├── lib/
│   │   ├── components/   # UI 组件
│   │   ├── stores/       # 状态管理（Svelte 5 runes）
│   │   ├── services/     # API 和数据服务
│   │   ├── types/        # TypeScript 类型定义
│   │   └── utils/        # 工具函数
│   ├── routes/           # SvelteKit 路由
│   └── app.html          # HTML 模板
├── static/               # 静态资源
├── scripts/
│   └── vite-plugin-llama-cpp-build.ts  # 构建后处理插件
├── .env.example          # 环境变量示例
├── svelte.config.js      # SvelteKit 配置
└── vite.config.ts        # Vite 配置

LiteChat is forked from llama.cpp WebUI, adapted and optimized for enterprise LAN deployment. It supports vLLM, llama.cpp, and any OpenAI-compatible API backend. Configure the backend API endpoint and app name via environment variables — no code changes needed.

• Multi-backend Support — Native support for vLLM, llama.cpp, and any OpenAI-compatible API (Ollama, LM Studio, etc.)
• Think Mode Toggle — Supports deep thinking models (e.g. DeepSeek R1, Qwen Thinking) with a one-click toggle to enable/disable reasoning mode
• vLLM Compatibility — Fixed token speed statistics for vLLM streaming, adapted reasoning field and usage-based precise token counting
• Customizable Backend & Name — Configure API endpoint and app name via .env for quick enterprise deployment
• Optimized Bundle — Removed unnecessary MCP module, reduced initial load from ~6.2MB to ~150KB with split chunk loading
• Static Deployment — Fully static build, deployable on any HTTP server without Node.js
• Markdown Rendering — Syntax highlighting, KaTeX math formulas, tables
• Conversation Branching — Edit, regenerate, and navigate between branches
• Dark/Light Theme — System preference detection

bun install

cp .env.example .env

Edit .env to set your backend and app name:

# Backend API endpoint
VITE_API_TARGET=http://localhost:8000

# App name (displayed in page title and sidebar)
VITE_PUBLIC_APP_NAME=LiteChat

# API Key (optional)
# VITE_API_KEY=your-api-key-here

Common backend configurations:

# Development mode (hot reload)
bun run dev

# Production build
bun run build

The dev server starts at http://localhost:5173.

webui/
├── src/
│   ├── lib/
│   │   ├── components/   # UI components
│   │   ├── stores/       # State management (Svelte 5 runes)
│   │   ├── services/     # API and data services
│   │   ├── types/        # TypeScript type definitions
│   │   └── utils/        # Utility functions
│   ├── routes/           # SvelteKit routes
│   └── app.html          # HTML template
├── static/               # Static assets
├── scripts/
│   └── vite-plugin-llama-cpp-build.ts  # Post-build plugin
├── .env.example          # Environment variable template
├── svelte.config.js      # SvelteKit configuration
└── vite.config.ts        # Vite configuration

This project is forked from llama.cpp WebUI (MIT License).

Driven by Qwen3.6 27B (vLLM), Claude.