Skip to content

Releases: YanagiKH/Momo-LM

v0.1.0-v2

Choose a tag to compare

@YanagiKH YanagiKH released this 03 Aug 07:42
  • 新增 C 分塊矩陣、Softmax、LayerNorm 核心
  • 新增 C++ 融合推理與混合激活神經元組
  • 新增 Rust 記憶體安全張量核心與 C ABI
  • 自動選擇 Rust → C++ → NumPy 後端
  • 模型擴充至 184,131 個參數
  • 加入 gated neuron groups、GELU/SiLU/tanh、殘差路徑
  • 重新訓練 v2 基礎權重,loss 5.5533 → 4.1748
  • 保留舊 v1 權重自動遷移
  • 新增直接嵌入其他專案的 API:
import momo_lm

with momo_lm.load_model("./momo-data") as model:
    print(model.chat("你好", learn=False))

也支援:

import MomoLM

Full Changelog: v0.1.0...v0.1.0-v2

v0.1.0

Choose a tag to compare

@YanagiKH YanagiKH released this 02 Aug 17:08