Skip to content

Coverage Claim 25 KO

teamswyg edited this page Sep 30, 2026 · 2 revisions

단어 일치 특징 조합 학습 25

20개 특징 조합은 두 초기값 모두 페이지 비용을 악화시켰다. 이 특징 추가 경로는 기본 모델에 채택하지 않는다. 주 비교에서 기존 16개 특징 대비 페이지 6,326→6,439, 호출 2,408→2,363이다. 호출 45회를 아끼는 대신 113페이지를 더 읽으며, 사전 합격 기준도 미달이다.

비교 조건

실험 24에서 단일 특징의 신호가 약했더라도 조합 효과까지 없다고 단정하지 않기 위해, 계획을 학습 전에 고정하고 네 특징을 모두 추가했다. 평가에서 좋은 특징만 고르지 않았다.

기존 12개 특징 + 점수 분포 4개 뒤에 첫 후보 질의 단어 일치율·상위 20개 평균·표준편차·어휘 부재 비율을 붙였다. 총 20개이며 모든 특징은 기본 검색과 기존 인덱스에서 보조 검색 전에 계산한다. 레포 이름·정답·보조 검색 결과는 입력에 없다.

목표는 기본 페이지−보조 페이지−호출 페널티의 부호, 가중치는 그 절댓값이다. 페널티 {0,0.25,1,4,16}, seed {1729,2718}, 학습률0.1/L2 0.0001/100epoch/batch64, 검증 최소 손실 epoch, 검증에서만 90% 호출 예산 임계값·페널티 선택을 이전과 같게 유지했다. 3개 저장소 분할 ×2초기값 ×5페널티 = 30개 수치 헤드이며 평가 질문은 고유 2,948개다.

차원이 달라지면 초기화와 최적화 경로도 달라질 수 있다. 같은 seed를 사용했다고 최적화 경로까지 완전히 짝지어진 비교라고 주장하지 않는다. 두 seed는 독립적인 데이터 시험도 아니다.

결과

정책 seed 호출 페이지 Recall@10
기본 검색 — 0 9,488 0.7483
항상 보조 검색 — 2,948 6,287 0.8138
점수 차이 규칙 — 2,548 6,323 0.8097
기존 16개 특징 1729 2,408 6,326 0.8100
기존 16개 특징 2718 2,317 6,331 0.8094
새 20개, 비용 선택 1729 2,363 6,439 0.8111
새 20개, 비용 선택 2718 2,328 6,440 0.8104
새 20개, λ=0 1729 2,457 6,434 0.8111
새 20개, λ=0 2718 2,432 6,429 0.8107

모든 정책은 첫 후보를 보존해 Recall@1이 0.4179로 같다. 두 seed 모두 평가 etcd/test-infra/lxd에서 검증 선택 λ는 1/0/0이었다. 평가 결과에서 λ=0이 더 좋아 보이더라도 사후에 주 정책을 바꾸지 않는다. 상위 10개 품질은 소폭 올랐지만 페이지 비용을 악화시켜 원래 비용 목표를 충족하지 못했다.

주 seed의 저장소별 이전→새 페이지/호출은 다음과 같다.

평가 저장소 페이지 호출
etcd 1,602→1,599 618→540
test-infra 2,300→2,418 852→894
lxd 2,424→2,422 938→929

다른 seed에서도 test-infra의 페이지가 2,305→2,419로 늘었다. 악화가 저장소별로 다르게 나타나며, 일부 저장소의 이득을 전체 개선으로 보고하지 않는다. 이 결과는 단어 일치 자체가 모든 과제에 무용하다는 증명은 아니지만, 현재 목표·분할에서 이 네 특징을 추가할 근거는 제공하지 못했다. 같은 자료에서 더 좋은 숫자가 나올 때까지 파라미터를 계속 탐색하지 않는다.

구현·재현·자원

공통 Go 학습기는 고정 8열 추가 배열과 활성 열 수 0/4/8로 기존 12/16 및 새 20차원을 처리한다. 기존 산술 순서·모델 스키마는 유지한다. 배포 검증은 riido-coverage-claim-v1과 정확한 20개 계수를 요구하며 기존 16차원 모델과 혼동하지 않는다. FP32로 반올림한 선형 계수이며 3진 모델·Laya 체크포인트가 아니다.

새 30개 헤드와 결과 JSON이 재실행에서 31/31 바이트 일치했다. 공통 코드 수정 후 기존 실험 21(16차원)과 20(12차원)도 각각31/31 파일이 그대로 재현됐다. 이전 HF 아카이브 무결성 검사도 통과했다. 열 순서·가중합·정답/가중치 유지·평가 저장소 격리·잘못된 값/차원·모델 계약을 검사했다.

Apple M4 Pro/macOS/Go 1.27.1 CPU에서 원천 검증·검색·특징·30회 학습·평가·출력 전체 한 번은 wall2.04초, user1.67초, peak RSS90,374,144바이트(약86.2MiB). 전체 프로세스 비용이며 단일 추론·GPU 메모리·이전 대비 RSS 개선 증거가 아니다. 모델 JSON 하나는1,152–1,171바이트다. 추가 특징 추출 비용의 제한된 합성 측정은 실험24에 있다. 전체 LLM 시간·사용량 절감은 미검증이다.

go run ./cmd/riido-coverageclaim --out .cache/coverage-claim-25

전체 결과. CI·라이선스·파일 검증 후 수치 헤드는 HF에 연구용으로만 보관한다. Git에는 원문·질문·개별 정답·가중치·프로파일을 넣지 않는다. 기본 기능은 활성화하지 않는다.

다음은 이 특징 경로의 추가 튜닝을 보류하고, 기존 정책의 저장소별 실패와 드문 큰 페이지 손해를 분리해 점검한다. 입력 정보·분포 차이와 학습 목표의 문제를 구분할 별도 계획이 필요하다. 새로운 실제 사용자 요청 최소2,400개와 에이전트 완료율·총비용 검증은 여전히 미완료다. 기존 세 저장소 자료의 반복 관찰은 최종 독립 시험이 아니며 CoSQA reserve는 사용하지 않았다.

Source / 소스

Publication / 배포: immutable research archive. 37/37 files byte-identical after download; exact-source CI passed. MANIFEST SHA-256: 09abdb32f44119be1ae54f7d38be4fa35d6a8dbc0c88208a3ef6bb044f3b60cf. PR #48 merged as b3248efccaadc2701e291afa933bec2f7b8c6865; research-only, not activated.

Follow-up: changed-call loss audit 26.

Clone this wiki locally