一个面向简历项目和后训练实验的轻量级 Code Repository Agent + Qwen3-8B LoRA SFT 项目。

项目包含两部分：

1. Code Agent 原型：参考 Claude Code / Aider / OpenHands 的公开思路，实现仓库扫描、检索、规划、工具调用、测试验证、Review Subagent 和 JSONL trace 记录。
2. Agent SFT 实验闭环：将 Agent 工具轨迹、MBPP/HumanEval、SWE-bench Lite plan 数据转换为 LLaMA-Factory 训练格式，并基于 Qwen3-8B 做 LoRA SFT，对比微调前后效果。

说明：本仓库不包含任何私有 API、模型权重、训练 checkpoint 或个人路径。模型权重和训练输出请按文档本地生成。

• 支持代码仓库索引、Python AST 符号提取和轻量词法检索。
• 使用 LangGraph 编排 Planner → Tool Execution → Verifier → Review → Summary 流程。
• 通过 Tool Registry 统一封装 read_file、grep、replace_in_file、write_file、run_tests、git_diff 等工具。
• 内置 Hook 安全边界，阻止越权路径、危险命令和敏感文件修改。
• 每次 Agent 运行可保存 JSONL trace，用于后续 SFT 数据构建。
• 提供 LLaMA-Factory 数据转换、Qwen3-8B 模型下载、LoRA SFT 和 base/SFT 对比评估脚本。
• 给出完整简历项目写法，展示一个 AI Agent 后训练项目从 0 到 1 的组织方式。

flowchart TD
    UserTask[User Task] --> RepoIndex[Repo Indexer]
    RepoIndex --> Planner[Planner]
    Planner --> ToolRouter[Tool Router]
    ToolRouter --> HooksPre[Pre Tool Hook]
    HooksPre --> ToolExec[Tool Execution]
    ToolExec --> HooksPost[Post Tool Hook]
    HooksPost --> Verifier[Verifier]
    Verifier -->|Need More Work| ToolRouter
    Verifier -->|Done| ReviewSubagent[Review Subagent]
    ReviewSubagent --> Summarizer[Summarizer]
    Summarizer --> Trace[JSONL Trace]

核心模块：

.
├── src/cc_agent/                  # Code Agent 核心源码
├── scripts/                       # 数据转换、模型下载、训练、评估脚本
├── examples/                      # 可运行的小型样例仓库和 benchmark task
├── data/
│   ├── tasks/                     # 任务清单样例
│   ├── sft/                       # SFT JSONL 样例数据
│   ├── llamafactory/              # LLaMA-Factory alpaca 格式样例数据
│   └── repos/                     # MBPP / HumanEval 生成的小型仓库样例
├── docs/                          # 实验报告和简历写法
├── run_agent.py                   # CLI wrapper
├── requirements.txt
├── pyproject.toml
└── .env.example

以下内容默认不入库：outputs/、models/、traces/、logs/、.env、.cache/、*.safetensors、*.log。

建议使用 Python 3.10+。如果你使用 conda：

conda create -n coding_agent_sft python=3.10 -y
conda activate coding_agent_sft
pip install -r requirements.txt

如果在当前实验环境中复现，也可以使用已有环境：

conda run -n liuyang_aihigh pip install -r requirements.txt

配置模型 API：

cp .env.example .env

编辑 .env：

CC_AGENT_LLM_PROVIDER=openai
OPENAI_API_KEY=sk-your-api-key
OPENAI_BASE_URL=https://api.openai.com/v1
OPENAI_MODEL=gpt-4o-mini
OPENAI_TEMPERATURE=0.1

OPENAI_BASE_URL 可以替换为任何 OpenAI-compatible API 服务地址。

python run_agent.py index --repo examples/sample_repo --query "subtract bug"

python run_agent.py retrieve --repo examples/sample_repo --query "subtract function" --top-k 3

python run_agent.py run \
  --repo examples/sample_repo \
  --task "修复 subtract 函数的错误实现" \
  --test-command "pytest -q"

每次完整运行会在 traces/ 目录生成 JSONL 轨迹。轨迹包含计划、工具调用、工具结果、Review 结论和最终总结，可用于后续 SFT。

python run_agent.py stats --path traces

本项目支持三类数据源：

python run_agent.py build-mbpp --limit 20
python run_agent.py build-humaneval --limit 20

如果无法访问外网，代码会生成少量 offline seed 样本，方便先跑通流程。

export HF_ENDPOINT=https://hf-mirror.com
python run_agent.py build-swebench-lite --limit 20

生成修复计划数据：

python run_agent.py swebench-to-sft \
  --input data/tasks/swebench_lite_tasks.jsonl \
  --output data/sft/swebench_lite_plan_sft.jsonl \
  --mode plan

生成 patch 数据：

python run_agent.py swebench-to-sft \
  --input data/tasks/swebench_lite_tasks.jsonl \
  --output data/sft/swebench_lite_patch_sft.jsonl \
  --mode patch

python run_agent.py traces-to-sft --trace-path traces --output data/sft/agent_traces_sft.jsonl

python scripts/prepare_llamafactory_sft.py

输出：

data/llamafactory/train_alpaca.json
data/llamafactory/val_alpaca.json
data/llamafactory/dataset_info.json
data/llamafactory/dataset_stats.json

当前样例统计：

bash scripts/install_llamafactory.sh

验证：

llamafactory-cli --help

bash scripts/download_qwen_model.sh

默认下载到：

models/Qwen3-8B

如果你的磁盘空间有限，可以自定义路径：

LOCAL_DIR=/path/to/models/Qwen3-8B bash scripts/download_qwen_model.sh

LOCAL_MODEL_DIR=models/Qwen3-8B \
CUDA_VISIBLE_DEVICES=0 \
bash scripts/train_qwen_supported_llamafactory_lora.sh

训练输出默认保存到：

outputs/qwen_supported_coding_agent_lora_llamafactory

关键训练配置：

训练完成后，对比 base model 与 SFT adapter：

CUDA_VISIBLE_DEVICES=0,1 \
python scripts/eval_before_after_sft.py \
  --base-model models/Qwen3-8B \
  --adapter-dir outputs/qwen_supported_coding_agent_lora_llamafactory \
  --device auto \
  --max-new-tokens 512

评估指标：

一次实验结果：

结果解读：这个提升主要说明 SFT 显著增强了模型对 Agent 输出协议和 JSON 格式 的遵循能力；它不等同于真实复杂代码修复能力已经同幅度提升。更严格的下一步应加入 held-out 测试集、真实 patch 执行和端到端 Agent loop 评估。

更完整版本见 docs/RESUME_PROJECT_TEMPLATE.md。

简历 bullet 示例：

构建面向代码仓库任务的轻量级 Coding Agent，支持仓库索引、代码检索、任务规划、工具调用、测试执行、Review Subagent 和 JSONL 轨迹记录；进一步将 Agent traces、MBPP/HumanEval 和 SWE-bench Lite 数据统一转换为 LLaMA-Factory SFT 格式，基于 Qwen3-8B 进行 LoRA SFT，并设计 base/SFT 对比评估脚本。实验中 SFT 后 JSON 合法率从 0.0% 提升到 94.6%，字段命中率从 1.4% 提升到 94.6%，工具选择准确率从 0.0% 提升到 83.3%，验证了 SFT 对 Agent 输出协议对齐的有效性。

• 引入 tree-sitter 支持更多语言的符号级索引。
• 用 embedding / rerank 替换当前轻量词法检索。
• 扩充高质量真实 Agent traces，减少模板化过拟合。
• 将 patch 样本纳入评估，增加真实测试执行指标。
• 基于工具合法性、测试通过率和 diff 风险设计 RLVR / GRPO / GSPO 后训练实验。