Paired Intent Models

같은 선택지에 다른 요구를 주는 작은 모델

2026-10-05. Gooo 소스에 필드별 후보식과 요구를 적고 자체 모델을 연결한 두 번째 필드 학습 실험입니다. 컴파일러 main aeff3641·Go1.27.1·SDK0.2.22로 실제로 조립하고 실행했습니다.

앞선 모델은 제목 유지·상태ready·사유 접미사를 잘 골랐지만 반대 요구를 따라가지 못했습니다. 이번에는 같은 선택지에 다른 요구를 짝지어 가르쳤습니다. 모델을 크게 늘리는 대신 제목·상태·사유의 여덟 요구 조합을 준비했습니다.

무엇을 측정했나

여덟 본문/후보식 모양과 순서·후보 방향·한영 문장을 조합해7,168개 소스 관측을 만들었습니다.3,072개는 학습,1,536개는 보정입니다. 나머지 자료는 다른 본문/기본 표현1,536개, 같은 본문/새 표현512개, 다른 본문/새 표현512개로 나눠 읽습니다. 모든 요구 조합은 학습에도 있고, 본문6/7은 앞선 개발 벤치마크입니다.

첫 후보가 세 필드를 모두 맞춘 비율	기존 필드 v1	새 FP32	새 QAT
다른 본문, 기본 표현	12.50%	27.60%	13.80%
같은 본문, 새 표현	12.50%	19.53%	13.09%
다른 본문, 새 표현	12.50%	15.82%	12.70%

새 FP32가 다른 본문에서 맞춘 개별 필드 요구는2,942/4,608(63.85%)입니다. 세 필드를 모두 맞추는 비율과 개별 필드의 비율은 분모가 다릅니다. 새 표현에서의 개선은 작고, 삼진화하면 혼합 요구의 성과가 많이 줄었습니다.

별도로24개 소스에 새로운 입력을 넣고 다섯 방식·세 예산으로360개 그래프를 만들어720번 실행했습니다. 예산 하나에서 새 FP32는 변환이 활성화된 필드 108/144개를, 결정론적 순서는72/144개를 맞췄습니다. 입력을 그대로 반환한 조건의 필드144개는 따로 셉니다. 전체 여덟 후보 예산이면 각 실행의 필드12/12, 이름 있는 출력8/8을 맞췄습니다. 이24개 소스는 전체 평가의 작은 실행 표본입니다.

직접 연결하기

hf download asketeddy/gooo-record-field-tiny-v2 \
  models/fp32/model.json models/fp32/weights.bin demo.gooo.fixture demo-cases.json \
  --local-dir ./gooo-paired-demo
gooo body-compose --source ./gooo-paired-demo/demo.gooo.fixture \
  --cases ./gooo-paired-demo/demo-cases.json \
  --model ./gooo-paired-demo/models/fp32/model.json

예제는 제목에 입력 상태를 복사하고, 상태ready와 사유 접미사를 함께 요구합니다. Gooo의 조건문 안에 실제 후보식을 적습니다. 모델 옵션을 생략하면 결정론적으로 같은 후보를 조립합니다. 예제의 attempts "1"을 attempts "8"로 바꾸면 모든 후보를 확인합니다. 저장한 조립은 새 입력에서 추가 추론 없이 재사용합니다.

연구 저장소의 --paired-summary는 비율과 비용을 짧게 출력합니다. 실패한 필드, 맞은 부분과 원본 실행을 함께 읽을 수 있습니다. 따라할 명령과 전체 자료.

비용과 다음 접근

공개 다운로드의19개 파일을 원본과 비교하고, 받은 가중치로 여섯 제어를 직접 실행했습니다. 두 작업자의32개 혼합 요구 조립 요청에서는 입력을 닫기 전에42.26ms에 첫 응답을 받았고 전체86.50ms, CPU121.67ms, 최대RSS22.38MiB를 관측했습니다. 선택 필드는480/480개였습니다. 상주 작업자의 레코드 조립과 body-compose의 그래프 실행을 각각 확인했습니다.

Linux CI도360개 그래프를 새로 빌드해720회 실행했습니다. 원본을 내려받아 현재 입력과 실제 값을 독립 재계산했고, Mac의 선택 마스크와 부분 충족 수 360개 모두와 같았습니다. 연구PR16은 전체25개CI 후 main 05db7d6e로 병합했습니다. 원래 자료와Linux 원본을 합친 비압축 자료는117.23MiB로 128MiB 예산 안에 있습니다. 공개 모델의 검증 기록에 원본과 지문이 있습니다.

같은18,656개 매개변수를 새로 초기화해GPU3,840회 갱신했습니다. 전체 학습은 7.21초, 프로세스 CPU4.17초, 최대RSS538.28MiB였습니다. CPU 시간으로 계산한 평균은 한 코어의57.84%입니다. 호스트 전체 사용률 변화와 GPU 사용률은 측정하지 않았습니다. MPS 텐서 최대 할당은13.81MiB, 드라이버는50.72MiB입니다.

FP32 판단 중앙값은17.792µs, 파일74,624B입니다. 삼진 파일은3,854B이고 실행 시 텐서18,752B와 스케일8B로 풉니다. 기본 표현의 전체 조립 명령 중앙값은 FP32 397.60ms, 결정론395.86ms로 비슷했습니다. 빌드와 시작 비용도 포함합니다. 기본 모델 선택은 유지하고 세 모델의 원본을 모두 공개합니다.

다음에는 필드별 두 후보를 공유 판단기로 비교하고 그 확률을 조합하는 방법을 실험합니다. 요구를 작은 비교로 나누어 새 순서와 혼합에 더 쉽게 대응할 수 있다는 가설입니다. 여덟 전체 조합을 한 번에 학습하는 현재 방식과 같은 예산·실행 지표로 비교합니다.

공개 모델 · 실험 PR16 · 앞선 필드 모델.