Skip to content

single corpus real feedback validation

lipluscodex edited this page Aug 9, 2026 · 4 revisions

Question

cross-corpus の実データ容量が不足している段階で、feedback-adaptation の実在データ検証をどの範囲で進めるか。

Current resolution

この D1 single-corpus route は、Home を含めずに development / holdout を各3 credited edge以上で分離できないため waiting である。次の feedback-adaptation evaluation の source selection は repository-native-controlled-corpus に superseded されている。

D1 capacity が通常運用で増えた場合だけ、この entry の read-only D1 provenance と identity-disjointness の条件を再評価する。評価を再開する目的で D1 の source document、relation edge、repository、または collection を追加しない。

Edges

Background

#39 の read-only capacity audit は、production D1 に relation edge を持つ repository が少なく、既存 fixture identifier を除外すると development / holdout の各 split に3 repository を置く cross-corpus protocol を満たせないと確定した。一方、github-rag-mcp には単一 corpus 内で分離可能な 3-edge cluster 候補が2組あるため、主張を狭めれば実在データでの因果検証は可能である。

Constraints

  • acquisition は production D1 の read-only query のみであり、no-write evidence、schema、coverage、実在 source URL を保存する。
  • development と holdout は node、doc path、source URL、credited edge identity を分離し、prior experiment は identifier-only denylist に限定する。
  • protocol を result-free で固定し、development を一回だけ実行し、gate 通過時だけ holdout を一回だけ実行する。観測後に protocol、fixture、gold、code、docs、result を変更または再実行しない。
  • baseline が 1.0 未満なら strict improvement、1.0 なら全 safety gate を伴う non-regression を適用する。
  • cluster、headroom、または provenance を固定できない場合は、結果を作らず停止する。
  • D1 capacity は評価の外部前提である。テスト用に source document、relation edge、repository、または collection を追加して capacity を満たそうとしない。

Conclusion

single-corpus D1 evaluation は、通常運用によって D1 capacity が増えるまで再開しない。テスト目的の D1 拡張は採らない。現在の causal evaluation は repository-native controlled corpus を source とする別 route で進める。

Related

Clone this wiki locally