operations factory a ai latency

운영 — Factory-A AI 지연시간

기준일: 2026-06-08
근거: docs/ops/33_factory_a_ai_latency_measurement.md

factory-a의 safe-edge-integrated-ai workload에서 카메라 frame capture, YOLO 추론, event 판단, InfluxDB 기록까지의 처리 시간을 읽기 전용 로그 확인과 one-shot benchmark로 측정한 기준이다.

현재 배포 상태

namespace: ai-apps
deployment: safe-edge-integrated-ai
node: worker2
image: minsoo0919/safe-edge-ai:v6
containers: ai-processor, snapshot-cleanup
snapshot mount: /app/snapshots -> /var/lib/safe-edge/snapshots hostPath

safe-edge-integrated-ai는 worker2에 preferred node affinity로 배치되어 있으며, 현재 기준 Pod는 worker2에서 정상 동작한다.

처리 루프

capture_array
  -> cvtColor
  -> fire_model(imgsz=320)
  -> pose_model(imgsz=320)
  -> event 판단
  -> event/cooldown 조건 충족 시 snapshot 저장
  -> InfluxDB write
  -> sleep(1)

앱 코드 주석에는 10초 cooldown이라고 적힌 부분이 있으나 실제 값은 COOLDOWN_SEC=5다.

측정 기준값

구간	현재 기준값	비고
한 loop 전체	avg 1.228s, p95 1.261s	time.sleep(1) 포함
active loop 전체	avg 약 228ms, p95 약 261ms	loop 전체에서 sleep 1초 차감
fire model inference	median 96.3ms	1회 outlier 256.9ms
pose model inference	median 102.0ms	비교적 안정적
two-model inference 합계	median 약 198ms	active loop 대부분
capture + conversion + 판단 + InfluxDB write	약 30ms 수준 추정	단계별 직접 측정 아님
snapshot 저장	미측정	최근 loop에 event 없음

active loop 측정 당시 최신 loop는 event가 없는 상태였으므로 snapshot 저장 시간은 포함되지 않은 것으로 본다. snapshot upload는 별도 snapshot-uploader 경로이며 AI loop 지연시간으로 직접 해석하지 않는다.

운영 해석

두 YOLO 모델 추론 합계가 약 198ms이고 active loop 평균이 약 228ms라서, 현재 MVP의 1초대 현장 감시 주기에는 충분히 들어온다. 더 정확한 단계별 측정은 운영 loop 내부에 time.perf_counter() 기반 instrumentation을 추가해야 하며, 이 경우 새 image build/push와 rollout이 필요하다.

관련 문서

• Edge AI 탐지
• Image Snapshot 운영
• Image Snapshot Pipeline