LlamaGUI

轻量、原生的 Windows llama.cpp 桌面客户端

LlamaGUI 为 llama.cpp 提供开箱即用的图形界面，让你无需手写命令即可安装推理引擎、管理 GGUF 模型并在本地聊天。

LlamaGUI 不捆绑 llama.cpp、GPU 驱动或模型文件。你可以在应用内安装官方运行包，也可以导入已有的 llama-server.exe。

📷 项目截图

功能

• 自动检测硬件，支持安装或导入 CPU、CUDA、Vulkan 版 llama.cpp
• 扫描本地 GGUF，或从 Hugging Face、ModelScope 查询并断点续传
• 可视化配置模型参数，保存、应用和管理参数预设
• 支持流式对话、推理内容、多模态附件与会话持久化
• 本地优先，内置运行状态、下载进度和诊断日志

AI 驱动开发

LlamaGUI 是一个完全由 AI 驱动开发的开源项目。从需求分析、架构设计和代码实现，到代码审查、问题修复与文档维护，整个开发流程均由 AI 协作完成，并通过静态检查与人工验收持续验证。

快速开始

下载使用

前往 Releases 下载 Windows x64 版本：

• *.msi：安装版
• *-portable.exe：直接运行的便携版

启动后依次选择或安装 llama.cpp 引擎、添加 GGUF 模型，然后即可开始聊天。

从源码运行

需要 Windows 10/11 x64、Rust 1.95，以及包含“使用 C++ 的桌面开发”组件的 Visual Studio 2022。

cargo run --release

生成完整发布包需要 Windows SDK 和 WiX Toolset，详见 发布说明。

参与贡献

欢迎提交 Issue 和 Pull Request。提交前请确保以下静态检查通过：

cargo fmt --package llamagui -- --check
cargo check --locked --target x86_64-pc-windows-msvc
cargo clippy --locked --target x86_64-pc-windows-msvc -- -D warnings

许可证

本项目基于 MIT License 开源。第三方组件许可见 THIRD_PARTY_LICENSES.md。