Skip to content

File Catalogs 33 KO

teamswyg edited this page Sep 30, 2026 · 2 revisions

실제 수정 전 파일 목록 2,400개 — 실험 33

고정한 2,400개 작업 모두의 수정 전 파일 목록을 확보했다. 큰 저장소를 빼거나 파일을 잘라내지 않았다. 정답 경로와 검색 실행기도 별도로 준비했지만, 이 문서의 결과는 후보 확보이며 검색 품질이나 LLM 절감 효과가 아니다.

전체 결과

항목 결과
전체 / 확보 / 미확보 버전 2,400 / 2,400 / 0
일반 파일 참조 / 심볼릭 링크 참조 8,039,516 / 5,300
submodule 참조 743
버전당 최대 파일 후보 30,223
버전당 최대 파일 경로 바이트 합계 2,838,643
기존 4,096개 후보 한도 초과 버전 1,008
기존 2MiB 텍스트 한도 초과 버전 5

파일 참조 합계는 여러 과거 버전에 반복해서 등장하는 파일을 포함한다. 고유 파일 800만 개를 확보했다는 뜻이 아니다. 심볼릭 링크는 경로만 유지하며 submodule 대상 저장소는 탐색하지 않는다. AllSelectedCatalogsAvailable=true는 선택한 저장소 내부의 완전한 tree 목록이라는 범위다. 저장소별 집계.

실행과 복구

원래 계획을 고정하고 같은 2,400개 선택 해시를 재계산했다. 수정 전 root tree ID에 고정된 목록만 읽으며 소스 본문을 내려받지 않는다. 완전성·ID·종류·경로·중복·부모 관계를 검증한 목록만 압축 캐시로 원자적으로 저장한다.

첫 실행은 2,000회 요청 예산에서 1,995개 확보로 종료했다. 재개 실행은 405회 새 요청으로 2,395개에 도달했다. 남은 Babel 5개는 단일 응답의 로컬 8MiB 상한을 초과했다. 5회 진단 요청으로 원인을 확인한 뒤, 사전 고정한 하위 트리 복구 계획에 따라 763회 요청으로 모두 복구했다. 복구 방식과 조건.

큰 응답을 일부만 받아 성공으로 표시하지 않는다. 모든 자식이 검증된 경우에만 완성된 root를 저장한다. 네트워크 8MiB, 비재귀 검증 2MiB, 전체 100,000항목·경로 합계 16MiB를 유지하고 조립된 캐시의 해제 후 상한은 32MiB로 구분했다. 일반 오류나 손상된 캐시를 복구 경로로 숨기지 않는다.

# 원천 projection과 고정 root 캐시를 먼저 준비한다.
go run ./cmd/riido-filecatalog --request-budget 2000 --out .cache/catalog-pass-1
# 캐시를 유지하면서 새 출력 디렉터리로 남은 항목을 이어 받는다.
go run ./cmd/riido-filecatalog --repair-subtrees --request-budget 1500 --out .cache/catalog-pass-2
# 네트워크 없이 완성된 캐시를 검증한다.
go run ./cmd/riido-filecatalog --offline --out .cache/catalog-replay

GitHub CLI 인증과 API 잔여량을 확인하고 요청 예산을 조절한다. 출력 디렉터리는 새로 만들어야 한다. 원천은 실험 28, 고정 선택은 실험 29를 따른다. failures.json과 캐시는 원천 식별자·로컬 오류 등을 포함하므로 Git/HF에 올리지 않는다.

함께 준비한 평가 경로

  • 전체 후보용 Go 검색과 프로파일 개선: 최대 100,000개 파일, 전체 BM25 통계, 후보를 잃지 않는 baseline-first 병합. 작은 API의 한도는 유지한다.
  • 정답 분리: 2,398개 작업에 기존 파일 경로가 있고, 2개는 새 파일만 추가한다. 정답은 검색 입력·후보 생성·학습에 쓰지 않는다.

공개되는 것은 자체 코드·계획·집계뿐이다. 새 학습, 모델 배포, 기본 활성화는 없으며 기존 최종 예비 자료도 사용하지 않았다. 다음 실험은 실제 파일 목록에서 고정된 검색 정책을 비교하는 것이다.

검증과 자원

수집 결과와 일반 오프라인 재실행, 실제 2,400개 race 실행의 공개 집계·비공개 실패 목록이 모두 바이트 일치했다. 전체 2,400개 가용성과 저장소별 합계 보존도 확인했다. 전체 Go race/vet·형식·redacted 검사 및 Linux/macOS CI를 거쳐 병합한다.

동시 race 검사가 끝난 뒤 별도로 측정한 M4 Pro CPU 캐시 검증 1회는 wall 12.16초/user 12.62초/sys 0.61초, 최대 RSS 46,333,952바이트(약 44.2MiB)였다. 최초 네트워크 수집·검색 인덱스·모델·GPU 비용을 뜻하지 않는다.

압축 recursive/조립 캐시는 3,143개 객체·320,112,467바이트, 비재귀 tree 캐시는 10개·223,221바이트다. 합계 320,335,688바이트(약 305.5MiB)는 이 두 캐시의 논리적 파일 크기만 합한 값이며, root 캐시·원천 Parquet·모델 등 전체 작업 공간 용량은 아니다. 하위 tree가 공유되므로 캐시 객체 수와 평가 작업 수는 다르다.

Follow-up / 후속: Completed evaluation 34 / 실제 평가 완료.

Clone this wiki locally