Skip to content

v0.3.0 - 계정 단위 동시성 제한

Latest

Choose a tag to compare

@bluelucifer bluelucifer released this 16 Feb 12:55
· 2 commits to master since this release

주요 변경사항

계정 단위 동시성 제한 (Account-Level Concurrency Limiting)

BigModel API의 계정 단위 속도 제한에 대응하기 위한 새로운 기능 추가

문제:

  • 여러 Claude Code 인스턴스 동시 실행 시 429 에러 발생
  • 계정 단위로 속도 제한이 적용되어 기존 키별 제한으로 대응 불가

솔루션:

  • account_concurrency 설정 필드 추가
  • 계정 전체의 동시 요청 수를 세마포어로 제어
  • 한도 초과 시 요청을 대기 (최대 500분)
  • 타임아웃 시 자동 폴백

설정 예시:
```yaml
routes:

  • match: "glm-5"
    account_concurrency: 1 # 계정 전체 동시 요청 제한
    concurrency: 1 # 키당 동시 요청 제한 (기존)
    upstream:
    url: "https://open.bigmodel.cn/api/anthropic"
    auth:
    header: "x-api-key"
    value: "key1"
    pool:
    - "key2"
    fallback: false
    ```

기대 효과:

  • 429 에러 사전 차단
  • 여러 Claude Code 동시 사용 시 안정성 확보
  • 타임아웃 시 Anthropic API로 자동 폴백

설치

Linux (x86_64)

```bash
curl -L https://github.com/TheMagicTower/summon/releases/download/v0.3.0/summon-linux-x86_64 -o summon
chmod +x summon
```

macOS (ARM64)

```bash
curl -L https://github.com/TheMagicTower/summon/releases/download/v0.3.0/summon-macos-arm64 -o summon
chmod +x summon
```

macOS (x86_64)

```bash
curl -L https://github.com/TheMagicTower/summon/releases/download/v0.3.0/summon-macos-x86_64 -o summon
chmod +x summon
```

Full Changelog

v0.2.10...v0.3.0

Full Changelog: v0.2.10...v0.3.0