Repository navigation
Release v0.2.0: 首个发布版本,完成 sdforge 生态重构
v0.2.0 是 vecboost 在 GitHub Releases 上的首个发布版本,覆盖项目自 2025-12-24 初始搭建至 2026-07-24 的全部开发。本版以 sdforge 生态重构为主线:集成 7 个基础设施库,把手写 gRPC 与 MCP 收敛到 #[forge] 封装,并将测试覆盖率推进到 95%+。
新增
核心嵌入能力
- 批量向量化 API(
embed_batch)与运行时模型切换 API(53545df6f、e898d2d0e、1b43d5835) - KV Cache 优化与模型加载超时机制(65d5a6254、0a2357fe0)
- GPU 内存监控与 Tokenizer 缓存(b63bd82f6、178128099)
- 多设备支持(8c7901b14)
- XLM-RoBERTa 模型支持与模型架构自动识别(06cb5d71f)
- 性能指标收集(4a7e47bca)
- audit、CSRF、缓存、限流、pipeline 等模块的完整特性集(f9f9f58a8、0e8e2ccff)
- 真实推理支持(带 mock 回退)(f4ea58c94)
对外 API
- OpenAI 兼容的 embeddings API 端点(83a7cf99d)
- API 超时保护与 Rate Limit 响应头(da98a317e)
- Matryoshka 维度约简功能(7e446430f)
生态库集成(7 个基础设施库)
- confers 0.4 配置加载(388377aa7)
- inklog 日志集成:新增 LoggerModule,
inklogfeature 启用时以 inklog 替换tracing_subscriber,原 LoggerModule 更名为 AuditModule(75cc82bfa、44f8a599d) - oxcache 缓存后端及测试(c372df049)
- limiteron 令牌桶多维限流适配器(707f5a522)
- dbnexus 集成:DbPool 包装及测试(7f38d25a5)
- sdforge
#[forge]封装的 gRPC embedding service(f41a69778) - sdforge
#[forge]实现的 MCP server(38f21f6a6) - 28 个功能示例,作为 workspace member crate(844fa7e4a)
- 13 个 module_registry 模块,覆盖 VecboostState 字段(39202cf0c)
convert_to_safetensors.sh:PyTorch 权重转 safetensors(437b23d79)
修复
安全与健壮性
- 安全加固第二阶段(7aadb9135)与安全审计加固项修复(573fefe88)
- secret 掩码与文本预览切片改用
floor/ceil_char_boundary,保证 UTF-8 安全(7445eb61e、5dd512bb8) - 引擎回退
pytorch_model.bin时告警,提示 pickle 反序列化风险(56fbcbf03) - 设备模块运行时 panic 与死锁修复(3e1704fdb)、引擎
Runtime::new().unwrap()panic 修复(e823d03f2) CudaDeviceManager::initialize契约与is_supported对齐(96f62ae3b)- hf-hub 升级至 0.4,修复模型下载
RelativeUrlWithoutBase错误(cf6721142) - ONNX 内存压力检查改用
checked_div(91b83c904) - 工业级质量项 H1-H7、T009 与 ONNX 兼容性修复(47ee843d7)
- objc2 平台兼容性修复(2e403a407)
功能正确性
- Matryoshka 截断归一化修复,并移除 tensor pool(d8387ab4e)
- 本地模型加载遵循
config.model_path(62ab138b2) - PipelineScheduler 桩替换为真实 EmbeddingService(5d53be19a)
- scale-down 前清理 stale worker senders(ba558d17a)
- 配置反序列化修复与 auth 可选功能实现(760f81c40)
- config 与环境变量测试的并行竞争修复(c07b0b47e、e669d1e08)
- 测试稳定性:固定 sleep 改轮询、worker 超时调整、移除竞争断言、改用动态期望维度(899a57192、ef5515e41、8acb26d40、117e4695c)
变更
- v0.2.0 生态重构:集成 7 个基础设施库(c4f3e6f5f)
- 全局状态改造:
AppState重命名为VecboostState,并迁移为单字段AsyncKit(029ae7923、5a0ff816b) - 架构修正为单一
OnceLock<VecboostState>+state().kit.require(456e7e3c7) - sdforge 接管、
mod.rs加固与安全修复(8bc137885) - 移除 tensorrt/openvino 桩引擎(ce96a143a)
- 移除
MemoryPoolManager.tensor_pool死代码(b1846ccda) - 自建缓存、限流迁移至 oxcache / limiteron(b3356a8fb、8e370916e)
- 基础设施库收敛为必需依赖(2aef5aa37)
- 脚本整合为 4 入口分发(7 → 4 个文件)(1107c3871)
- 升级 Rust Edition 2024,优化 CPU 密集任务处理(cfd1154d1)
- 新增平台特定 feature 配置,覆盖 macOS / Linux / Windows(3389e01bb)
- 清理孤儿文件与未使用死代码(d5740280c)
- 单元测试迁移至
tests/目录(606283bc6) - utils / config 模块重构为子目录结构(1e2f98929)
维护
- 测试覆盖率推进至 95%+ 阈值,多轮共新增 500+ 测试,覆盖 engine / device / service / model / pipeline 等模块(fe8076517、1db3040d4、bdfd64570、669b0a778、71da2863a、584645fd0、c29e97638)
- candle_engine 真实模型集成测试(91051d6da)
- 依赖升级:hf-hub 1.0 + prometheus 0.14(含 vuln-0009 脆弱性加固)、tokio 1.52→1.53、aes-gcm 0.10→0.11、全量
cargo update(795f68dfe、7460a6a8e、496a57b15、e25a87ce0、8ac7f2c3d) - sdforge 依赖切换为 crates.io 0.4.7(aef8e40df)
- 文档与 v0.2.0 sdforge 实现对齐全量更新(057f5a3b3、3414671ec、5fab530f0、fdadea6e2)
- 文档增强(可视化与 Mermaid 图表)、文档归入 docs/ 目录(8365fa93f、926905bbe)
- pre-commit hooks 及配置简化(4917ea5ed、ce1cd42ff),特性组合修正(40e53e69f)
- 清理未使用导入与变量、clippy 修复、移除未使用依赖与死代码(3560b60a5、09b00f8ef、06a826316、94781622b、c845abea4、921cd2426、07ad02922、56985f9c6)
- 仓库与 .gitignore 整理(f5b39081f、503f050e7、53ff0d625、c3e3985cf)
- specmark 目录停止跟踪与变更归档(0283cda20、3b5d93d4c)
- 补充 cargo publish 元数据配置(726e2b88c)
Full Changelog: 670bdf3...v0.2.0