AI Wiki

CARO AI-WIKI

• Repo

---

1. API 설계

명함 생성
직무 분석
6각 차트 리뷰
OCR

로그의 작업공간
OCR 명함 스캔
자연어 검색

2. 모델 추론 성능 최적화

이미지생성
LLM
임베딩
VLM

3. 서비스 아키텍처 모듈화(임시)

각 모듈의 책임과 기능에 대한 설명
모듈화로 기대되는 효과와 장점 & 팀의 서비스 시나리오에 부합한 근거

flowchart LR

FE["Frontend"]

subgraph SB["Spring Backend"]
  APIGW["API Gateway"]
  CARD["Card Service"]
  USER["User Service"]
  REVIEW["Review Service"]
  SEARCHAPI["Search API"]
  SSE["SSE Push"]
  RDB[("RDB")]
end

subgraph FA["FastAPI AI Orchestrator"]
  ORCH["AI Orchestrator"]
  JOBDB[("AI Job DB")]
  Q[["Queue"]]
  REDIS[("Redis Cache")]

  subgraph HEX["Hex Modules"]
    GHC["GitHub Collector"]
    CALC["Metric Calculator"]
    HEXPROMPT["Hex Prompt Builder"]
  end
end

S3[("S3 Storage")]
VDB[("Vector DB")]
GIT["GitHub API"]

subgraph RP["RunPod Model Serving"]
  LLM["LLM vLLM"]
  DIFF["Diffusion"]
  VLM["VLM OCR"]
  EMB["Embedding"]
end

%% Client entry
FE -->|요청| APIGW
APIGW -->|상태 스트림| SSE
SSE -->|진행 알림| FE

%% Domain services
APIGW -->|명함 API| CARD
APIGW -->|사용자 API| USER
APIGW -->|리뷰 API| REVIEW
APIGW -->|검색 API| SEARCHAPI

CARD -->|저장| RDB
USER -->|저장| RDB
REVIEW -->|저장| RDB

%% Upload images
FE -->|이미지 업로드| S3
CARD -->|이미지 URL 저장| RDB

%% Spring -> FastAPI
APIGW -->|AI 요청| ORCH
APIGW -->|결과 조회| ORCH
ORCH -->|상태 결과| APIGW

%% Async job core
ORCH -->|작업 생성| JOBDB
ORCH -->|큐 적재| Q
Q -->|큐 처리| ORCH
ORCH -->|캐시 저장| REDIS

%% 1) 명함 생성: Diffusion + LLM
ORCH -->|명함 생성 배경| DIFF
ORCH -->|명함 생성 렌더링 텍스트| LLM
ORCH -->|소개 문구 생성| LLM
ORCH -->|결과 업로드| S3
ORCH -->|명함 반영| CARD

%% 2) 명함 인식 OCR: VLM
ORCH -->|명함 OCR| VLM
ORCH -->|OCR 반영| CARD

%% 3) 6각차트 분석: GitHub 수집 + 계산 + LLM 해석
ORCH -->|깃 수집| GHC
GHC -->|API 호출| GIT
GHC -->|원천 데이터| ORCH
ORCH -->|점수 계산| CALC
CALC -->|scores evidence| ORCH
ORCH -->|리뷰 사용| REVIEW
ORCH -->|사용자 사용| USER
ORCH -->|프롬프트 구성| HEXPROMPT
HEXPROMPT -->|해석 생성| LLM
ORCH -->|분석 저장| RDB

%% 4) 자연어 검색: Embedding + Vector DB
ORCH -->|임베딩| EMB
ORCH -->|벡터 저장 조회| VDB
SEARCHAPI -->|벡터 검색| VDB

%% 5) 간단 소개: LLM
ORCH -->|간단소개| LLM
ORCH -->|소개 저장| RDB

Loading

4. 멀티스텝 AI/파이프라인 구현 검토

5. 데이터/컨텍스트 보강 설계

6. 표준화된 도구 통합 및 외부 API 활용 설계

7. 서비스 인프라 확장성과 모니터링 설계