-
-
Notifications
You must be signed in to change notification settings - Fork 0
single corpus real feedback validation
cross-corpus の実データ容量が不足している段階で、feedback-adaptation の実在データ検証をどの範囲で進めるか。
この D1 single-corpus route は、Home を含めずに development / holdout を各3 credited edge以上で分離できないため waiting である。次の feedback-adaptation evaluation の source selection は repository-native-controlled-corpus に superseded されている。
D1 capacity が通常運用で増えた場合だけ、この entry の read-only D1 provenance と identity-disjointness の条件を再評価する。評価を再開する目的で D1 の source document、relation edge、repository、または collection を追加しない。
- depends on ceiling-aware-feedback-adaptation-gate
- refines none
- supersedes none
- conflicts with none
- informs none
#39 の read-only capacity audit は、production D1 に relation edge を持つ repository が少なく、既存 fixture identifier を除外すると development / holdout の各 split に3 repository を置く cross-corpus protocol を満たせないと確定した。一方、github-rag-mcp には単一 corpus 内で分離可能な 3-edge cluster 候補が2組あるため、主張を狭めれば実在データでの因果検証は可能である。
- acquisition は production D1 の read-only query のみであり、no-write evidence、schema、coverage、実在 source URL を保存する。
- development と holdout は node、doc path、source URL、credited edge identity を分離し、prior experiment は identifier-only denylist に限定する。
- protocol を result-free で固定し、development を一回だけ実行し、gate 通過時だけ holdout を一回だけ実行する。観測後に protocol、fixture、gold、code、docs、result を変更または再実行しない。
- baseline が 1.0 未満なら strict improvement、1.0 なら全 safety gate を伴う non-regression を適用する。
- cluster、headroom、または provenance を固定できない場合は、結果を作らず停止する。
- D1 capacity は評価の外部前提である。テスト用に source document、relation edge、repository、または collection を追加して capacity を満たそうとしない。
single-corpus D1 evaluation は、通常運用によって D1 capacity が増えるまで再開しない。テスト目的の D1 拡張は採らない。現在の causal evaluation は repository-native controlled corpus を source とする別 route で進める。
- Issue #40 - この決定を適用する single-corpus experiment。
- Issue #39 - cross-corpus capacity の failure report。
- Repository-native controlled corpus - 現在の source-selection judgment。
- Ceiling-aware feedback adaptation gate - baseline ceiling の採否規則。
- Decision Structure index - entry format、ownership、lifecycle。
- Decision Structure
- Observation lifecycle test exception
- Ceiling-aware feedback adaptation gate
- Single-corpus real feedback validation
- Repository-native controlled corpus
- Longitudinal feedback adaptation
- github-rag-mcp replacement compatibility
- Evidence-gated local feedback reinforcement
- Confirmed outcome feedback reinforcement
- Real-task shadow feedback validation
- Frozen output round-trip integrity