v0.3.9

🚀 Release Notes

📦 包含内容

• 编译后的 class 文件
• 所有依赖库（lib/*.jar）
• 精简版 JRE 21.08（内置，无需额外安装 Java 运行环境）
• 启动脚本（run.sh / run.bat）

🧩 llama.cpp 版本

• 本项目中打包的 llamacpp 二进制来自 llama.cpp 项目的 Release（最新版本发布页：https://github.com/ggml-org/llama.cpp/releases/latest）
• Linux Vulkan: b7966
• Windows CUDA12: b7966
• Windows CUDA13: b7966
• Windows Vulkan: b7966
• Windows HIP: b7966

📦 可用版本

Linux:

• llama-server-v0.3.9-b7966-linux-vulkan.zip
• llama-server-v0.3.9-linux.zip

Windows:

• llama-server-v0.3.9-b7966-windows-cuda12.zip
• llama-server-v0.3.9-b7966-windows-cuda13.zip
• llama-server-v0.3.9-b7966-windows-hip.zip
• llama-server-v0.3.9-b7966-windows-vulkan.zip
• llama-server-v0.3.9-windows.zip

📝 使用方法

Linux:

unzip <你下载的 linux zip 包>
cd <解压后的目录>
chmod +x run.sh
chmod +x jre/bin/java
./run.sh

Windows:

unzip <你下载的 windows zip 包>
cd <解压后的目录>
run.bat

注意：

• 本版本已内置精简版 JRE，无需额外安装 Java 环境。
• Windows CUDA 版本文件较大，是因为使用了 cudart 包，包含了 CUDA 运行环境。
• 请根据你的 GPU 选择对应的版本：
  • NVIDIA GPU: 使用 cuda12 或 cuda13 版本
  • AMD GPU: 使用 hip 版本
  • 其他 GPU（如核显） 或不确定: 使用 vulkan 版本
  • 不需要llamacpp：使用无 llamacpp 版本

---

📌 最新提交

41172a4 - 修改控制台日志的页面效果，从对话框改为右侧面板 (IIIIIllllIIIIIlllll, 11 minutes ago)

📋 自上次发布以来的变更

• 修改控制台日志的页面效果，从对话框改为右侧面板 (41172a4)
• 增加paddleocr的图标 (bf93217)
• 增加功能：模型列表中可以直接看到已加载模型的slot状态，确认各个slot是否正在推理中 (fe07445)
• 清理代码，修改log4j版本，去掉System.out和err的日志输出 (0351e10)
• 临时做一个目录选择器，待优化 (cfc9de9)
• 修正引用错误 (fc9c084)
• Enhance README with feature suggestions and compilation notes (3f767e8)
• 修改命令行工具，希望能改善在windows下的使用情况 (7437ab3)
• 给CUDA用户增加提示 (6a4c66e)
• 还在分析潜在的通信问题 (1c98ad9)

---

构建时间: 2026-02-07 13:47:57 UTC