当契约成立以后 系统开始追问另一件事 #1360
lostlight530
started this conversation in
Ideas
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
契约让执行可控
真实任务会继续追问执行之外的东西
当 Workflow 已经能把流程组织起来
工具已经能接进去
状态已经能延续
节点已经能跑通
执行层已经站稳
契约层已经成形
但真实任务不会停在这里
它会继续往下压
压到另一层
那一层不是能力
而是托付
真实任务的特征会把托付性问题推到最前面
真实任务有三个共同特征
时间跨度长
状态累积快
后果影响大
时间一旦拉长
系统就必须判断什么时候继续
什么时候暂停
什么时候需要人类确认
状态一旦堆积
系统就必须决定哪些信息应该进入长期记忆
哪些信息只属于当前运行
后果一旦变重
系统就必须知道哪些动作需要闸门
哪些动作必须经过确认
哪些动作不能自动执行
这些都不是能力问题
而是托付性问题
是系统能否被持续交付的底线
契约解决能不能执行
托付性解决能不能交付
契约定义结构
定义流程
定义边界
定义工具
定义状态
契约让系统可执行
托付性让系统可交付
两者不在同一维度
也不在同一责任模型里
当能力变强 托付性问题会自然浮现
只要系统具备以下任意能力
托付性问题就会自动出现
能长时间运行
能跨能力协作
能积累状态
能自动恢复
能自主决策
能力越强
托付性越重要
因为系统越能做事
越需要知道哪些事不能自己做
哪些事必须停下来
哪些事必须被解释
哪些事必须被回滚
托付性不是限制能力
而是让能力在边界内可靠运行
我现在更在意的不是节点数量
而是系统的自我约束能力
节点可以继续加
能力可以继续扩
记忆可以继续增长
流程可以继续复杂
但系统越复杂
越需要自我约束
高风险动作的闸门
长期记忆的边界
失败任务的恢复策略
运行轨迹的可理解性
状态增长的可控性
这些都是托付性的组成部分
它们决定系统能不能被交付
而不是系统能不能跑完
结语
当 Workflow 走向真实场景
讨论自然会从执行结构
走向执行信任
契约让执行可控
托付让执行可信
这就是 我认为 Astron agent在真实任务里的两层价值
All reactions