Skip to content

v0.1.0

Choose a tag to compare

View all tags
@github-actions github-actions released this 16 Aug 04:03
· 8 commits to main since this release
v0.1.0
a309e5e

v0.1.0 —— 首个可用版本

DSH 式 cordis 插件模式的 Rust 本地 LLM 壳,接入本机 oMLX 服务器
(192.168.0.5:9870,主模型 Qwen3.6-35b)。

功能

  • cordis 插件架构:Context(事件总线 + 服务注入 + effect 生命周期,
    卸载即全部回滚)、Service、Plugin、Loader(运行时 /load /unload 热插拔);
  • 模型层(论证见 docs/model-layer.md):"小上下文、零成本、频繁微调用"——
    微调用协议(JSON 输出 + 关思考 + 失败重试 + 有界并发),实测单次 1.1~1.8s;
  • 插件:
    • chat:有界滚动历史对话(上下文纪律,默认保留最近 6 轮);
    • microtask:每次回复后自动 2 个并行微调用(意图分类 + 关键词);
      /micro 流水线演示(串行决策 → 3 路并行抽取,带每阶段耗时);
  • 交互:TUI(ratatui)+ 非交互 --once / --micro / --list-plugins。

构建与下载

三平台产物由 GitHub Actions 自动构建并发布到本 Release:

  • localai-v0.1.0-win-x64.zip —— Windows 10+ x64
  • localai-v0.1.0-macos-aarch64.tar.gz / -x86_64.tar.gz —— macOS
  • localai-v0.1.0-linux-x64.tar.gz —— Linux x64(CentOS 7+ 兼容,glibc 2.17)

使用:解压 → 复制 .env.example 为 .env 填入 LLM_API_KEY(服务器
~/.omlx/settings.json 的 auth.api_key)→ 运行 localai。

Assets 6
Loading