自 v0.0.1 以来的完整功能 (npm 0.2.12)
This release packs the full feature set since v0.0.1 (corresponds to npm 0.2.12).
核心存储与检索 (Storage & Retrieval)
- SQLite 分块存储:解决大数据量 JSON 全量重写问题。
- 多维 SQL 检索:支持 FTS5 全文检索 + 向量检索。
- 库级嵌入 hash 去重:Reindex 操作不再重复付费。
- 崩溃可恢复导入:分批落盘,支持启动后自动续传。
文件与数据管理 (File & Data Mgmt)
- 原始文件存储:保留 raw 副本,支持重新解析。
- URL 快照 + 刷新:确保引用的数据保持最新。
- 目录子树操作:支持最外层折叠 + 递归删除 / 重索引。
- 空间回收:删除大量数据后支持 VACUUM 和 FTS optimize,释放空间。
模型与工具 (Models & Tooling)
- 多本地模型注册表:内置 5 个 ONNX 模型,支持按模型族进行向量池化。
- 检索上下文拼接:支持
siblingChunks拼接,提升检索质量。 - Metadata 过滤检索:支持通过元数据进行精确筛选。
- 检索评测工具:提供 Runner 和示例模板,方便评估系统效果。
安全加固 (Security Hardening)
- SSRF 防护
- 路径穿越攻击防御
- Zip 炸弹防护
完整详细变更记录请查阅:CHANGELOG.md
EN version:
Full feature set since v0.0.1 (corresponds to npm 0.2.12).
Highlights:
- SQLite chunk storage (fixes full-file JSON rewrites at scale) + SQL retrieval (FTS5 + vector)
- Library-wide embedding hash reuse (reindex never re-pays)
- Crash-resumable imports: incremental batch persistence + auto-resume on startup
- Raw source storage (rebuildable from the original file), URL snapshots + refresh
- Sibling-chunk context stitching (siblingChunks), metadata-filtered search
- Directory subtree operations (outermost-root folding + recursive delete/reindex)
- Multi-model local embedding registry (5 ONNX models, per-family pooling)
- Space reclamation after large deletes (VACUUM + FTS optimize)
- Security hardening: SSRF guard, path-traversal defense, zip-bomb cap
- Retrieval eval tooling (runner + example template)
Full changelog: CHANGELOG.md