Skip to content

【开源自荐】whatbroke:给 AI Agent 两次运行做行为 diff 的命令行工具 #132

Description

@arthi-arumugam-git

推荐我自己开发的开源项目 whatbroke,希望有机会入选周刊。

项目简介

给 AI Agent 的行为做类似 git diff 的对比。改了提示词或者换了模型之后,对比前后两次运行:哪些工具调用是新增的、哪些消失了、哪些换了顺序,参数改了什么,成本和延迟差了多少。支持多次采样运行,会给出每个差异的出现频率,并自动降低那些在基线里本来就不稳定的项,减少误报。

今天发布的 v0.3.0 新增了 whatbroke import 命令,可以直接导入 OTLP JSON(OTel GenAI 语义约定)、Langfuse 和 LangSmith 的导出数据,已经接入链路追踪的 Agent 不用改一行代码就能做对比。全部在本地运行,不上传任何数据。

谢谢!

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions