Skip to content

v0.7.6

Choose a tag to compare

View all tags
@github-actions github-actions released this 03 May 08:24
· 685 commits to master since this release
v0.7.6
938b75c

🚀 Release Notes

📦 包含内容

  • 编译后的 class 文件
  • 所有依赖库（lib/*.jar）
  • 精简版 JRE 21.08（内置，无需额外安装 Java 运行环境）
  • 启动脚本（run.sh / run.bat）

🧩 llama.cpp 版本

  • 本项目中打包的 llamacpp 二进制来自 llama.cpp 项目的 Release（最新版本发布页：https://github.com/ggml-org/llama.cpp/releases/latest）
  • Linux Vulkan: b9010
  • Linux ROCm 7.2: b9010
  • Windows CUDA12: b9010
  • Windows CUDA13: b9010
  • Windows Vulkan: b9010
  • Windows HIP: b9010

📦 可用版本

Linux:

  • llama.cpp-hub-v0.7.6-b9010-linux-rocm-7.2.zip
  • llama.cpp-hub-v0.7.6-b9010-linux-vulkan.zip
  • llama.cpp-hub-v0.7.6-linux.zip

Windows:

  • llama.cpp-hub-v0.7.6-b9010-windows-cuda12.zip
  • llama.cpp-hub-v0.7.6-b9010-windows-cuda13.zip
  • llama.cpp-hub-v0.7.6-b9010-windows-hip.zip
  • llama.cpp-hub-v0.7.6-b9010-windows-vulkan.zip
  • llama.cpp-hub-v0.7.6-windows.zip

📝 使用方法

Linux:

unzip <你下载的 linux zip 包>
cd <解压后的目录>
chmod +x run.sh
chmod +x jre/bin/java
./run.sh

Windows:

unzip <你下载的 windows zip 包>
cd <解压后的目录>
run.bat

注意：

  • 本版本已内置精简版 JRE，无需额外安装 Java 环境。
  • Windows CUDA 版本文件较大，是因为使用了 cudart 包，包含了 CUDA 运行环境。
  • 请根据你的 GPU 选择对应的版本：
    • NVIDIA GPU: 使用 cuda12 或 cuda13 版本
    • AMD GPU: 使用 hip 版本，Linux系统，AI MAX+ 395（或其它ROCm7.2支持的GPU）可以使用ROCm7.2版本
    • 其他 GPU（如核显） 或不确定: 使用 vulkan 版本
    • 不需要llamacpp：使用无 llamacpp 版本

📌 最新提交

938b75c - 修改日志：增加console的输出 (IIIIIllllIIIIIlllll, 66 minutes ago)

📋 自上次发布以来的变更

  • 修改日志：增加console的输出 (938b75c)
  • 修改用量统计：加上cache_n这个参数 (c829b9d)
  • 删除无用的临时文档 (909431e)
  • 增加功能：前端可以设置远程节点了（需要在application.json里配置了role: master） (1a98927)
  • 修改READTIMEOUT时间 (c5c77c0)
  • 修改用量柱状图 (33b9363)
  • 修改日志：针对远程节点做出专门的说明，是哪里请求出错了（仅针对流式响应做了处理） (54f25cf)
  • 增加功能：给Ollama的兼容API也加上远程节点访问的功能 (5d07ca7)
  • 增加功能：用量统计 (4d2edac)
  • 修复BUG：当本机没有配置任何模型时，却提示了远程节点没有模型，这不对 (9f20dfa)

构建时间: 2026-05-03 08:24:29 UTC

Assets 10
Loading