Load-Balancer 서버 구현

[fru1tworld]

✏️ 한 줄 설명

websocket 분산을 위한 load-balancer server 구현

✅ 작업 내용

• Load Balancer 서버 구현 및 WebSocket 서버 Redis 의존

🏷️ 관련 이슈

📸 스크린샷/영상

📌 리뷰 진행 시 참고 사항

• 확장 가능한 서비스를 위한 Load-Balancer 서버 구현

• 현재 API, WebSocket, LB-Server로 구성되어있습니다.

• WebSocket 서버 흐름은 다음과 같습니다.

• connection 연결 connection 카운트 증가, redis 반영

• 전체 커넥션 해제, redis key값 삭제

• key값 ws:connection:${serverId}

• 10초 간격으로 주기적으로 cpu 사용량을 redis에 업데이트

WebSocket 서버 정리

• 10초 간격 CPU 사용량 CRON
• 커넥션 연결 정보 Redis에 반영

Load-Balancer Server 흐름

• 처음 연결
• 1. 이미 연결된 Room이 있는지 Redis를 통해 확인
• 1-1 연결된 정보가 있다면 해당 server 값 반환
• 2. 연결된 Room이 없으면 Optimal Server 탐색
• 2-1 Optimal Server는 CPU 가용량이 가장 낮은 서버의 값을 반환

Redis 구성

CPU 사용량을 조회할 때는 최소값만 알면되므로 ZSet(Sorted Set) 사용
WebSocket Connection 정보를 관리할 때는 단순히 get/set 사용

Container 구성

흐름의 주체는 결국 CPU의 코어
현재 NCP는 코어가 2개로 실행 중
docker-container에서는 특정 컨테이너가 특정 core에서 실행될 수 있도록 설정 작업
관련 작업은 이후 반영 예정

수정 필요한 부분 :

1. CPU 사용량 계산을 core 단위로 계산
2. CPUUsage가 아니라 CPUCoreUsage로 네이밍 수정
3. Docker-compose 설정 수정