🍁 Maple Server Windows 原生版(RTX 5060 Ti / Blackwell sm_120)
✨ 特性
- CUDA 12.8.1 + sm_120 架构原生编译
- 基于 deepgrove-ai/llama.cpp,原生支持 maple 架构
- 静态链接 OpenSSL + VC++ 运行库,开箱即用
🚀 快速使用
- 下载下方
maple-server-rtx5060ti-cuda12.8.zip并解压到纯英文目录 - 放入 Maple 模型权重(如
maple-preview-TQ1_0-head-F16.gguf) - PowerShell 运行:
.\llama-server.exe -m maple-preview-TQ1_0-head-F16.gguf --jinja --host 0.0.0.0 --port 8080 -ngl 999 -t 16 --reasoning-preserve- 浏览器访问
http://localhost:8080
📋 系统要求
- Windows 11 23H2+
- 支持 CUDA 12.8 的 NVIDIA 驱动
- Visual C++ 2015-2022 Redistributable (x64)