[Performance] 🔴 MTTFB[p99] - 31.13% 성능감소 by Lettuce Connection Pool 증가 - POST /api-chat/chat

[ghkdqhrbals]

• Implements
  • Redis Lettuce CP 최적화

• 기존(max-active:8, max-idle: 8, min-idle: 0) = Original

  TPS 평균: 362.60
  TPS p95: 438.80
  TPS p99: 494.42
  MTTFB 평균: 590.52 ms
  MTTFB p95: 875.44 ms
  MTTFB p99: 1167.77 ms
  MTTFB 차이 평균 : 78.26 ms
  MTTFB 평균적인 변동률: 11.81%

• 변경(max-active:100, max-idle: 50, min-idle: 10) = Change1

  TPS 평균: 342.94
  TPS p95: 450.15
  TPS p99: 502.65
  MTTFB 평균: 599.58 ms
  MTTFB p95: 1131.07 ms
  MTTFB p99: 1531.29 ms
  MTTFB 차이 평균 : 122.83 ms
  MTTFB 평균적인 변동률: 19.00%

• 변경(max-active:150, max-idle: 70, min-idle: 50) = Change2

  TPS 평균: 338.45
  TPS p95: 433.25
  TPS p99: 491.85
  MTTFB 평균: 600.22 ms
  MTTFB p95: 1012.68 ms
  MTTFB p99: 1241.76 ms
  MTTFB 차이 평균 : 104.21 ms
  MTTFB 평균적인 변동률: 16.47%

Metric	Change1 (%)	Change2 (%)
TPS_Average	-5.42%🔴	-6.66%🔴
TPS_p95	2.59% 🔴	-1.26% 🔴
TPS_p99	1.66% 🔴	-0.52% 🔴
MTTFB_Average	-1.53% 🔴	-1.64% 🔴
MTTFB_p95	-29.20% 🔴	-15.68% 🔴
MTTFB_p99	-31.13% 🔴	-6.34% 🔴

결과부터 말씀드리면 낮은 CP 가 오히려 성능지표가 더 좋게 나왔습니다.

여전히 Redis Repository Latency 가 다른 RDB Latency 보다 높습니다 ㅜㅜ 😂 그래도 살짝 감소한 모습은 확인할 수 있었습니다! 하지만 오차범위 내라고 생각합니다.

refreshToken 확인하는 interceptor 지연시간 이전과 이후

Repository 지연시간 이전과 이후

Repository 지연시간 max time 이전과 이후

• CP 증가 이후

[ghkdqhrbals]

왜 오히려 감소하지? :(

• 네트워크 bandwidth X
  → 네트워크 1.5Mbps 만 써서 매우 충분 😟
• cpu usage X
  
  → cpu usage 그래프 확인해보면 거의 사용량이 매우 낮음
• 메모리 fragementation ? X 아니면 메모리 사용량이 너무 높은가?
  
  → 잔여 메모리가 40% 이상 남아있음. 그래서 단편화는 제외
• Key indexing 이 제대로 안되어있어서 찾기가 힘든가?
  
  Redis HASH search O(1) 로 빠르게 찾음… 그러니까 indexing 은 제대로 되어있어요

어떤 문제일까요?