Skip to content

Release v0.2.0: 首个发布版本,完成 sdforge 生态重构

Choose a tag to compare

@github-actions github-actions released this 24 Jul 02:14
· 431 commits to main since this release

v0.2.0 是 vecboost 在 GitHub Releases 上的首个发布版本,覆盖项目自 2025-12-24 初始搭建至 2026-07-24 的全部开发。本版以 sdforge 生态重构为主线:集成 7 个基础设施库,把手写 gRPC 与 MCP 收敛到 #[forge] 封装,并将测试覆盖率推进到 95%+。

新增

核心嵌入能力

  • 批量向量化 API(embed_batch)与运行时模型切换 API(53545df6f、e898d2d0e、1b43d5835)
  • KV Cache 优化与模型加载超时机制(65d5a6254、0a2357fe0)
  • GPU 内存监控与 Tokenizer 缓存(b63bd82f6、178128099)
  • 多设备支持(8c7901b14)
  • XLM-RoBERTa 模型支持与模型架构自动识别(06cb5d71f)
  • 性能指标收集(4a7e47bca)
  • audit、CSRF、缓存、限流、pipeline 等模块的完整特性集(f9f9f58a8、0e8e2ccff)
  • 真实推理支持(带 mock 回退)(f4ea58c94)

对外 API

  • OpenAI 兼容的 embeddings API 端点(83a7cf99d)
  • API 超时保护与 Rate Limit 响应头(da98a317e)
  • Matryoshka 维度约简功能(7e446430f)

生态库集成(7 个基础设施库)

  • confers 0.4 配置加载(388377aa7)
  • inklog 日志集成:新增 LoggerModule,inklog feature 启用时以 inklog 替换 tracing_subscriber,原 LoggerModule 更名为 AuditModule(75cc82bfa、44f8a599d)
  • oxcache 缓存后端及测试(c372df049)
  • limiteron 令牌桶多维限流适配器(707f5a522)
  • dbnexus 集成:DbPool 包装及测试(7f38d25a5)
  • sdforge #[forge] 封装的 gRPC embedding service(f41a69778)
  • sdforge #[forge] 实现的 MCP server(38f21f6a6)
  • 28 个功能示例,作为 workspace member crate(844fa7e4a)
  • 13 个 module_registry 模块,覆盖 VecboostState 字段(39202cf0c)
  • convert_to_safetensors.sh:PyTorch 权重转 safetensors(437b23d79)

修复

安全与健壮性

  • 安全加固第二阶段(7aadb9135)与安全审计加固项修复(573fefe88)
  • secret 掩码与文本预览切片改用 floor/ceil_char_boundary,保证 UTF-8 安全(7445eb61e、5dd512bb8)
  • 引擎回退 pytorch_model.bin 时告警,提示 pickle 反序列化风险(56fbcbf03)
  • 设备模块运行时 panic 与死锁修复(3e1704fdb)、引擎 Runtime::new().unwrap() panic 修复(e823d03f2)
  • CudaDeviceManager::initialize 契约与 is_supported 对齐(96f62ae3b)
  • hf-hub 升级至 0.4,修复模型下载 RelativeUrlWithoutBase 错误(cf6721142)
  • ONNX 内存压力检查改用 checked_div(91b83c904)
  • 工业级质量项 H1-H7、T009 与 ONNX 兼容性修复(47ee843d7)
  • objc2 平台兼容性修复(2e403a407)

功能正确性

  • Matryoshka 截断归一化修复,并移除 tensor pool(d8387ab4e)
  • 本地模型加载遵循 config.model_path(62ab138b2)
  • PipelineScheduler 桩替换为真实 EmbeddingService(5d53be19a)
  • scale-down 前清理 stale worker senders(ba558d17a)
  • 配置反序列化修复与 auth 可选功能实现(760f81c40)
  • config 与环境变量测试的并行竞争修复(c07b0b47e、e669d1e08)
  • 测试稳定性:固定 sleep 改轮询、worker 超时调整、移除竞争断言、改用动态期望维度(899a57192、ef5515e41、8acb26d40、117e4695c)

变更

  • v0.2.0 生态重构:集成 7 个基础设施库(c4f3e6f5f)
  • 全局状态改造:AppState 重命名为 VecboostState,并迁移为单字段 AsyncKit(029ae7923、5a0ff816b)
  • 架构修正为单一 OnceLock<VecboostState> + state().kit.require(456e7e3c7)
  • sdforge 接管、mod.rs 加固与安全修复(8bc137885)
  • 移除 tensorrt/openvino 桩引擎(ce96a143a)
  • 移除 MemoryPoolManager.tensor_pool 死代码(b1846ccda)
  • 自建缓存、限流迁移至 oxcache / limiteron(b3356a8fb、8e370916e)
  • 基础设施库收敛为必需依赖(2aef5aa37)
  • 脚本整合为 4 入口分发(7 → 4 个文件)(1107c3871)
  • 升级 Rust Edition 2024,优化 CPU 密集任务处理(cfd1154d1)
  • 新增平台特定 feature 配置,覆盖 macOS / Linux / Windows(3389e01bb)
  • 清理孤儿文件与未使用死代码(d5740280c)
  • 单元测试迁移至 tests/ 目录(606283bc6)
  • utils / config 模块重构为子目录结构(1e2f98929)

维护

  • 测试覆盖率推进至 95%+ 阈值,多轮共新增 500+ 测试,覆盖 engine / device / service / model / pipeline 等模块(fe8076517、1db3040d4、bdfd64570、669b0a778、71da2863a、584645fd0、c29e97638)
  • candle_engine 真实模型集成测试(91051d6da)
  • 依赖升级:hf-hub 1.0 + prometheus 0.14(含 vuln-0009 脆弱性加固)、tokio 1.52→1.53、aes-gcm 0.10→0.11、全量 cargo update(795f68dfe、7460a6a8e、496a57b15、e25a87ce0、8ac7f2c3d)
  • sdforge 依赖切换为 crates.io 0.4.7(aef8e40df)
  • 文档与 v0.2.0 sdforge 实现对齐全量更新(057f5a3b3、3414671ec、5fab530f0、fdadea6e2)
  • 文档增强(可视化与 Mermaid 图表)、文档归入 docs/ 目录(8365fa93f、926905bbe)
  • pre-commit hooks 及配置简化(4917ea5ed、ce1cd42ff),特性组合修正(40e53e69f)
  • 清理未使用导入与变量、clippy 修复、移除未使用依赖与死代码(3560b60a5、09b00f8ef、06a826316、94781622b、c845abea4、921cd2426、07ad02922、56985f9c6)
  • 仓库与 .gitignore 整理(f5b39081f、503f050e7、53ff0d625、c3e3985cf)
  • specmark 目录停止跟踪与变更归档(0283cda20、3b5d93d4c)
  • 补充 cargo publish 元数据配置(726e2b88c)

Full Changelog: 670bdf3...v0.2.0