Skip to content

llama-server Magisk Module (延迟自启) - b11095

Choose a tag to compare

@github-actions github-actions released this 22 Sep 04:20
· 7 commits to main since this release
851404c

🚀 Magisk 模块发布 — 含开机延迟自启

上游版本: b11095

📦 安装方式

  1. 下载 llama-server-magisk.zip
  2. 在 Magisk Manager 中刷入模块
  3. 重启设备
  4. 开机后等待 60 秒,服务自动启动
  5. 将 .gguf 模型放入 /data/llama/models/ 目录

⚙️ 技术特性

  • 无 OpenMP 依赖,避免静态链接导致的运行时崩溃
  • KleidiAI 微内核优化 + LTO 链接时优化
  • C++ STL 静态链接 (c++_static),无外部 .so 依赖
  • 指令集: armv8.6-a+dotprod+i8mm+fp16
  • 深度适配高通骁龙 7 Gen 2 / 8 Gen 2
  • 开机延迟 60 秒自启 (等待系统 IO 完成)
  • OOM 优先级保护 (oom_score_adj=-1000,防止被系统强杀)

📱 平台要求

  • Android arm64-v8a (API 28+)
  • Magisk 24.0+

🔧 文件安装位置

项目 路径
二进制 /data/llama/llama-server
模型目录 /data/llama/models/
全局命令 llama-server (已加入 PATH)
自启脚本 /data/adb/modules/llama-server/service.sh
运行日志 /data/llama/llama.log

💡 手动重启服务(无需重启手机)

pkill llama-server
sh /data/adb/modules/llama-server/service.sh

🔗 与 Rust 程序配合使用

API 地址: http://127.0.0.1:8080

SHA256: $(cat llama-server-magisk.zip.sha256 | awk '{print $1}')