v0.3.3

🚀 Release Notes

📦 包含内容

• 编译后的 class 文件
• 所有依赖库（lib/*.jar）
• 精简版 JRE 21.08（内置，无需额外安装 Java 运行环境）
• 启动脚本（run.sh / run.bat）

🧩 llama.cpp 版本

• 本项目中打包的 llamacpp 二进制来自 llama.cpp 项目的 Release（最新版本发布页：https://github.com/ggml-org/llama.cpp/releases/latest）
• Linux Vulkan: b7907
• Windows CUDA12: b7907
• Windows CUDA13: b7907
• Windows Vulkan: b7907
• Windows HIP: b7907

📦 可用版本

Linux:

• llama-server-v0.3.3-b7907-linux-vulkan.zip
• llama-server-v0.3.3-linux.zip

Windows:

• llama-server-v0.3.3-b7907-windows-cuda12.zip
• llama-server-v0.3.3-b7907-windows-cuda13.zip
• llama-server-v0.3.3-b7907-windows-hip.zip
• llama-server-v0.3.3-b7907-windows-vulkan.zip
• llama-server-v0.3.3-windows.zip

📝 使用方法

Linux:

unzip <你下载的 linux zip 包>
cd <解压后的目录>
chmod +x run.sh
chmod +x jre/bin/java
./run.sh

Windows:

unzip <你下载的 windows zip 包>
cd <解压后的目录>
run.bat

注意：

• 本版本已内置精简版 JRE，无需额外安装 Java 环境。
• Windows CUDA 版本文件较大，是因为使用了 cudart 包，包含了 CUDA 运行环境。
• 请根据你的 GPU 选择对应的版本：
  • NVIDIA GPU: 使用 cuda12 或 cuda13 版本
  • AMD GPU: 使用 hip 版本
  • 其他 GPU（如核显） 或不确定: 使用 vulkan 版本
  • 不需要llamacpp：使用无 llamacpp 版本

---

📌 最新提交

edc8dc4 - 修复ollama的API路由问题，我的傻逼操作害人家浪费时间 (IIIIIllllIIIIIlllll, 19 minutes ago)

📋 自上次发布以来的变更

• 修复ollama的API路由问题，我的傻逼操作害人家浪费时间 (edc8dc4)
• 修复/v1/models响应的模型信息 (8c1bdd7)
• 临时做的一版多语言 (23ecbc9)

---

构建时间: 2026-02-02 12:33:14 UTC