0.4.1beta

修复大显存显卡的主机 KV 池偏小问题，以及超长上下文静默出错不提示的问题。

修复

• 16 GB 显存的卡，主机 KV 池实际只用了 8 GiB（配置里的 16384 没生效），
  长对话时报 context cache exhausted: Paged KV pool has no free page。已修复。
• 请求内容超过设备池时，引擎会静默丢弃中间内容并返回 HTTP 200，
  答案不可信但没有提示。现在界面会警告。

更新

已安装的用 ”LocalModels-Update-0.4.1beta.exe“（408 KB）更新，引擎不用重下。

问题反馈

加 QQ 群 373392086。

0.4.0beta

引擎更新到新版（体积从 1.24 GB 降到 640 MB，自带 VC++ 运行库）。

安装

下载 Bonsai2-Setup-0.4.0beta.exe，双击跟着向导走。

安装程序会自动识别你的显卡，只下载对应架构的引擎包：

显卡	引擎包
RTX 50 系	infer-engine-sm120a-*.zip
RTX 40 系	infer-engine-sm89-*.zip
RTX 30 系	infer-engine-sm86-*.zip

不用把三个都下 —— 只需要你显卡对应的那一个。下载支持断点续传，中途断了会自动重试。

更新

已经装过的用户用 LocalModels-Update-0.4.0beta.exe（约 400 KB）即可更新。

这一版增量包也能更新引擎 —— 不用重下引擎包，程序会自己下载替换。

本版变化

• 引擎更新到新版，体积减半
• 增量包支持更新引擎（程序和引擎一起升级）
• 引擎包自带 VC++ 运行库，不用系统另装

问题反馈

加 QQ 群 373392086。

0.3.6beta

安装程序会自动识别你的显卡架构，只下载对应的那个引擎包。

显卡	引擎包
RTX 50 系	infer-engine-sm120a-*.zip
RTX 40 系	infer-engine-sm89-*.zip
RTX 30 系	infer-engine-sm86-*.zip

不用把三个都下 —— 只需要你显卡对应的那一个。

安装

下载 Bonsai2-Setup-0.3.6beta.exe，双击跟着向导走。

更新

已经装过的用户用 LocalModels-Update-0.3.6beta.exe（390 KB）即可更新，不用重下引擎。

问题反馈

加 QQ 群 373392086。

engine-kit

各显卡架构的推理引擎包。

安装程序会自动识别显卡并下载对应的那一个：

显卡	文件
RTX 50 系（sm_120a）	infer-engine-sm120a-20261002.zip
RTX 40 系（sm_89）	infer-engine-sm89-20261002.zip
RTX 30 系（sm_86）	infer-engine-sm86-20261002.zip

这个 Release 只用来存放引擎包，不随程序版本变化。