Repository navigation
v0.4.0
🚀 Release Notes
📦 包含内容
- 编译后的 class 文件
- 所有依赖库(lib/*.jar)
- 精简版 JRE 21.08(内置,无需额外安装 Java 运行环境)
- 启动脚本(run.sh / run.bat)
🧩 llama.cpp 版本
- 本项目中打包的 llamacpp 二进制来自 llama.cpp 项目的 Release(最新版本发布页:https://github.com/ggml-org/llama.cpp/releases/latest)
- Linux Vulkan: b7981
- Windows CUDA12: b7981
- Windows CUDA13: b7981
- Windows Vulkan: b7981
- Windows HIP: b7981
📦 可用版本
Linux:
llama-server-v0.4.0-b7981-linux-vulkan.zipllama-server-v0.4.0-linux.zip
Windows:
llama-server-v0.4.0-b7981-windows-cuda12.zipllama-server-v0.4.0-b7981-windows-cuda13.zipllama-server-v0.4.0-b7981-windows-hip.zipllama-server-v0.4.0-b7981-windows-vulkan.zipllama-server-v0.4.0-windows.zip
📝 使用方法
Linux:
unzip <你下载的 linux zip 包>
cd <解压后的目录>
chmod +x run.sh
chmod +x jre/bin/java
./run.shWindows:
unzip <你下载的 windows zip 包>
cd <解压后的目录>
run.bat注意:
- 本版本已内置精简版 JRE,无需额外安装 Java 环境。
- Windows CUDA 版本文件较大,是因为使用了
cudart包,包含了 CUDA 运行环境。 - 请根据你的 GPU 选择对应的版本:
- NVIDIA GPU: 使用 cuda12 或 cuda13 版本
- AMD GPU: 使用 hip 版本
- 其他 GPU(如核显) 或不确定: 使用 vulkan 版本
- 不需要llamacpp:使用无 llamacpp 版本
📌 最新提交
c6fac09 - 增强websocket的功能,让它在连接成功后再获取模型列表,确保每次与服务器建立通信后都能拿到最新的信息 (IIIIIllllIIIIIlllll, 24 minutes ago)
📋 自上次发布以来的变更
- 增强websocket的功能,让它在连接成功后再获取模型列表,确保每次与服务器建立通信后都能拿到最新的信息 (c6fac09)
- 修复easy chat里传入图片无法正确转发给llamacpp的问题 (00d76e9)
- 增加量化格式IQ4_XS的显示 (a386129)
- 修复lmstudio兼容API中,没有返回上下文长度的问题。 (f1621ff)
- 修改solts状态图标的显示效果,从横向排在模型名字右侧改为排列在最下层 (c6443c4)
- 兼容/v1/responses接口 (d8d00d9)
- 删除重复的判断 (993e073)
- 修改模型图标的加载逻辑,杜绝反复通过网络加载 (e44a496)
- 可以在EasyChat中运行LLM生成的HTML代码了。 (0bf4796)
- 修复slots状态展示的BUG:模型停止后状态栏没有销毁 (1793350)
构建时间: 2026-02-10 08:49:31 UTC