Skip to content

Release v1.8.0: BitNet And IR-C Optimize

Choose a tag to compare

@EthanPeng-2048 EthanPeng-2048 released this 11 Oct 12:07
· 125 commits to main since this release

neuralnet.cpp v1.8.0更新

新模型BitNet

  • 增加了训练1.58bit模型的能力
  • 增加了BitLinear层
  • 增加了ReLU^2激活函数
  • 增加了AdamWQuant优化器

IR-C相关优化


本次更新后,API变化频率我尽可能降低,项目基本转入“加新模型训练推理能力,优化性能“的开发模式