Repository navigation
Release v1.8.0: BitNet And IR-C Optimize
neuralnet.cpp v1.8.0更新
新模型BitNet
- 增加了训练1.58bit模型的能力
- 增加了
BitLinear层 - 增加了
ReLU^2激活函数 - 增加了
AdamWQuant优化器
IR-C相关优化
本次更新后,API变化频率我尽可能降低,项目基本转入“加新模型训练推理能力,优化性能“的开发模式
BitLinear层ReLU^2激活函数AdamWQuant优化器本次更新后,API变化频率我尽可能降低,项目基本转入“加新模型训练推理能力,优化性能“的开发模式