You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
reacted with thumbs up emoji reacted with thumbs down emoji reacted with laugh emoji reacted with hooray emoji reacted with confused emoji reacted with heart emoji reacted with rocket emoji reacted with eyes emoji
Uh oh!
There was an error while loading. Please reload this page.
背景
希望 DS Bot 为所有连接器提供统一的工具懒加载机制,而不是只针对 Notion 做专用补丁。
我在使用 Notion MCP 时观察到,相关工具定义可能占用约 70K tokens 上下文。这是我的使用场景中的近似观察,实际大小会随模型、tokenizer、服务端工具集及 schema 转换方式变化,并非对 DS Bot 当前版本的独立基准测试。
即使当前任务完全不需要 Notion,若仍把完整工具 schema 和服务 instructions 送入模型,也会消耗上下文、增加输入开销。连接器越多,这种固定开销越明显。
当前代码路径
以 DS Bot v0.3.6 为参考:
offFor与tools.restrict({ deny })。这是连接器权限控制,应该保留,但它与“有权使用、暂时不加载”是两个不同维度。list_connectors/request_connector主要负责目录和连接授权,不等于工具 schema 的按需发现与激活。希望在现有权限机制之上增加懒加载层,而不是通过关闭连接器来换取上下文空间。
建议方案
1. 区分权限与激活状态
默认只暴露轻量目录和发现入口。目录包含连接器标识、用途、连接状态等摘要,不包含全部工具参数定义。
2. 通用发现与按需激活
增加统一工具发现能力,例如按连接器、关键词或任务描述查找相关工具:
连接可以保持在线,工具目录也可以在宿主缓存;保持连接不应等于完整 schema 常驻模型上下文。
3. 服务 instructions 也按需处理
只裁剪 tools 数组还不够。若 MCP server instructions 始终注入系统提示词,仍可能留下较大的固定开销。
建议按有效激活集合加载相关服务 instructions,去重,并在服务停用、断开或激活失效时同步移除。不要把全量 schema 作为普通聊天文本返回,绕一圈又永久留进历史。
4. 权限不能被懒加载绕过
offFor、只读模式、上游 scope 与继承的 deny。client.callTool。5. Agent / 会话隔离与生命周期
与 DSH RC2 的关系
DSH
0.2.2-rc.2的ToolRegistrationOptions.when(context)可以作为按步骤判断工具可用性的候选基础。但这个 API 的存在不等于默认 MCP client 已经实现懒加载,也不等于 DS Bot 已经完成适配。建议先确认原生插件 API 能否覆盖工具注册与服务 instructions 的动态可见性;若有缺口,向 DSH 提出所需扩展,不 patch DSH 内部实现。
也不要只依赖 provider 特有的
deferLoading标记:最终是否省下上下文,应该以实际发给模型的请求为准。验收建议
相关讨论
#1341 关注每个 Bot 的静态能力选择;本建议关注在既有权限范围内,按任务动态减少模型可见工具。二者可以共用权限判断,但不应混为同一个开关。
All reactions