500, 504 오류 응답 케이스들에 대한 확인 요청

[woongeun-mp]

사용 중인 프로그래밍 언어 및 버전

Python 3.10

SDK 버전

https://api.solapi.com/messages/v4/send-many

운영 환경

AWS/클라우드/호스팅 서버 등 상용 웹 서버

질문/문제 설명

https://api.solapi.com/messages/v4/send-many
API 통해서 발송하는 과정에, 금일 500, 504 HTTP 응답이 자주 발생하여, 시스템에 문제가 있는지 체크해보시는 것을 요청 드립니다. 이 정도의 오류가 지속된다면, 서비스를 지속적으로 사용하기가 어렵습니다.

호출 하는 로직은 오류 발생시 Exponential Back-Off Retry 를 3회 수행하고 있습니다.

500 Internal Server Error

• 2025-05-28 09:05 기준 2건, 각 3회 Retry 후에도 500 HTTP Response 수신
• 2025-05-28 13:49 기준 1건, 각 3회 Retry 후에도 500 HTTP Response 수신
• 2025-05-28 14:01 기준 1건, 각 3회 Retry 후에도 500 HTTP Response 수신

504 Gateway Timeout

• 2025-05-28 17:39 기준 7건, 각 3회 Retry 후에도 504 Gateway Timeout HTTP Response 수신

코드 예시

No response

시도한 해결 방법

모든 오류는 api.solapi.com 측 에서 응답한 HTTP Status Code 로, api.solapi.com 측에 존재하는 nginx reverse proxy 서버에서 504 가 발생하는 것으로 추정 됨

기대하는 결과

시스템 장애가 있다면 공지되어야 함이 당연한 것 같습니다.
더불어, 확인 요청시 시스템 로그를 확인하시어 회신 부탁드립니다. (이전에도 유사하게 채널톡으로 요청 드렸는데, 호출측의 문제라는 등.. 기술적 판단 없는 추정 회신만 받아 불편 했습니다.)

확인사항

• 관련 문서를 확인했습니다
• 이전 토론/이슈에서 유사한 질문이 없는지 확인했습니다
• 문의 전 읽어야 하는 사항(문의 전 꼭 읽어봐주세요! #7)을 확인했습니다

[Palbahngmiyine]

안녕하세요, 솔라피 기술지원팀입니다. 말씀하신 사항은 최대한 빠르게 확인 후 답변드릴 수 있도록 하겠습니다.
좀 더 자세한 확인 및 해결안내를 도와드리기 위해 요청하신 500 상태코드 기준 파라미터 및 응답 메시지(예) Internal Server Error(error id: 1234)) 등을 남겨주시면 문제 해결에 큰 도움이 될 것 같습니다.

말씀하신 시간대에는 별도 대규모 트래픽/서버 작업으로 인한 문제 발생이나 지속적인 Upstream Service Error는 없는 것으로 식별되어서 자세한 파라미터나 응답 메시지를 요청드리는 점 양해 부탁드립니다.

[Palbahngmiyine]

만일 계정자체의 세부적인 네트워크 상황을 확인하길 희망하신다면 채팅상담을 통해 해당 커뮤니티 링크를 언급해주시면서 계정고유번호 등을 남겨주시면 해당 계정에 대한 트래픽또한 점검하여 안내드릴 수 있도록 하겠습니다.

[woongeun-mp]

대부분의 500, 504 오류 응답의 메시지는 아래와 같습니다.

500 -> Network error: ('Connection aborted.', RemoteDisconnected('Remote end closed connection without response')) : API 서버 측에서 연결을 끊어 버린 케이스
504 -> upstream request timeout : API 서버 인프라 내부의 reverse proxy <-> application server 사이의 처리시간 timeout

[Palbahngmiyine]

앞서 말씀하신 504 타임아웃의 경우 확인 작업중에 있으며, 말씀하신 500 에러의 상황부터 안내해드리겠습니다.
회원님께서는 500 에러라고 말씀해주셨지만, 테스트 및 로그(시스템 상 말씀하신 시각의 500 status error 로그는 없는 것으로 확인됐습니다)를 확인한 결과 HTTP Client 환경에서 닫힌 연결을 연결하려 시도하여 발생하는 오류로 확인됩니다.
해결을 위해서 헤더 부분에 "Connection": "keep-alive" 값을 넣어서 발송 요청해주시길 부탁드리며 더 자세한 확인이 필요하신 경우 응답 값 외의 발송 당시 파라미터(헤더 값까지 있으면 확인이 수월할 것 같습니다)를 보내주시면 좀 더 자세히 확인할 수 있도록 하겠습니다.

좀 더 부연설명을 드리자면 솔라피 서버측에 Connection이 거부/닫힌 연결을 시도하는 상태의 경우 상태코드는 503으로, upstream connect error or disconnect/reset before headers. reset reason: connection termination 형태로 응답을 반환하게 설정되어 있습니다. 따라서, 해당 500 에러는 당사측에서 응답한 메시지는 아니고 Python HTTP Client 라이브러리 측에서 네트워크 오류를 래핑해서 응답한 것으로 판단됩니다.

실제 Python SDK 상에서도 pytest를 통해 테스트를 진행해봤지만 말씀하신 별다른 오류를 식별하지 못했습니다. 당사측에서 로드테스트를 진행한 pytest 코드도 아래에 첨부해드리오니 참고 부탁드립니다.

테스트 코드, python sdk http request 코드

그 외에 504 타임아웃의 경우 또한 빠르게 확인 후 안내드릴 수 있도록 하겠습니다.

[Palbahngmiyine]

회원님께서 말씀해주신 504 타임아웃 관련해 내부에서 관련 현상이 확인되어 공유해드리겠습니다.
공유해주신 504 에러가 발생한 시각에 내부 데이터베이스가 별도 클린업 작업이 진행중에 있었고, 이로 인해 데이터베이스 내 일부 데이터에 락이 발생하여 회원님의 케이스에서 504 타임아웃이 발생한 것으로 확인되었습니다.

현재는 해당 클린업 작업 시간을 조정하여 피크 시간대에 데이터베이스 클린업 작업을 실행하지 않도록 개선하였고, 회원님께서 요청하신 발송건은 접수자체는 504였지만 정상 발송된 것으로 파악되었습니다.
이용에 불편을 드려 송구하다는 말씀을 드리며, 그 외에 더 자세하게 확인이 필요하신 정보등이 있으시다면 확인 후 빠르게 답변드릴 수 있도록 하겠습니다.