Skip to content

v0.1.1 - SQLite storage, crash recovery, security hardening

Latest

Choose a tag to compare

@Soren-ABT Soren-ABT released this 17 Aug 08:25
· 4 commits to main since this release

自 v0.0.1 以来的完整功能 (npm 0.2.12)

This release packs the full feature set since v0.0.1 (corresponds to npm 0.2.12).


核心存储与检索 (Storage & Retrieval)

  • SQLite 分块存储:解决大数据量 JSON 全量重写问题。
  • 多维 SQL 检索:支持 FTS5 全文检索 + 向量检索。
  • 库级嵌入 hash 去重:Reindex 操作不再重复付费。
  • 崩溃可恢复导入:分批落盘,支持启动后自动续传。

文件与数据管理 (File & Data Mgmt)

  • 原始文件存储:保留 raw 副本,支持重新解析。
  • URL 快照 + 刷新:确保引用的数据保持最新。
  • 目录子树操作:支持最外层折叠 + 递归删除 / 重索引。
  • 空间回收:删除大量数据后支持 VACUUM 和 FTS optimize,释放空间。

模型与工具 (Models & Tooling)

  • 多本地模型注册表:内置 5 个 ONNX 模型,支持按模型族进行向量池化。
  • 检索上下文拼接:支持 siblingChunks 拼接,提升检索质量。
  • Metadata 过滤检索:支持通过元数据进行精确筛选。
  • 检索评测工具:提供 Runner 和示例模板,方便评估系统效果。

安全加固 (Security Hardening)

  • SSRF 防护
  • 路径穿越攻击防御
  • Zip 炸弹防护

完整详细变更记录请查阅:CHANGELOG.md

EN version:

Full feature set since v0.0.1 (corresponds to npm 0.2.12).

Highlights:

  • SQLite chunk storage (fixes full-file JSON rewrites at scale) + SQL retrieval (FTS5 + vector)
  • Library-wide embedding hash reuse (reindex never re-pays)
  • Crash-resumable imports: incremental batch persistence + auto-resume on startup
  • Raw source storage (rebuildable from the original file), URL snapshots + refresh
  • Sibling-chunk context stitching (siblingChunks), metadata-filtered search
  • Directory subtree operations (outermost-root folding + recursive delete/reindex)
  • Multi-model local embedding registry (5 ONNX models, per-family pooling)
  • Space reclamation after large deletes (VACUUM + FTS optimize)
  • Security hardening: SSRF guard, path-traversal defense, zip-bomb cap
  • Retrieval eval tooling (runner + example template)

Full changelog: CHANGELOG.md