Skip to content

v2.4.0 — 프로필·config 이름 변경 + UI 언어 전환 + vLLM recipe import

Choose a tag to compare

View all tags
@Changroro Changroro released this 20 Jul 07:21
· 66 commits to main since this release
v2.4.0
e5fe8ef

✨ 새 기능

프로필·config 이름 변경 (#62)

최초 커밋 이래 프로필/config 이름은 편집 폼에서 비활성화돼 있었고 CLI에도 rename 경로가 없었습니다. 이름이 profiles.yaml 엔트리 키, 런타임 .env 파일명, 컨테이너 이름, config 파일명의 식별자로 동시에 쓰이기 때문입니다.

컨테이너가 중지된 경우에 한해 이름 변경을 지원합니다.

llmux profile rename qwen3-8b qwen3-8b-fp8
llmux profile clone  qwen3-8b qwen3-8b-tuned
llmux config  rename qwen3-0-6b qwen3-0-6b-fp8

TUI 에서는 대시보드와 config 목록에서 R 키. config 이름을 바꾸면 그 config 를 참조하던 프로필들이 자동으로 따라옵니다.

container_name / config_name 이 설정돼 있지 않으면 프로필 이름으로 fallback 되는데 — 미설정 container_name 은 새 이름을 따라가고, 미설정 config_name 은 옛 이름으로 고정돼 기존 config 파일에 계속 해석됩니다.

UI 언어 전환 (LLMUX_LANG=ko|en)

TUI 전 화면과 footer 가 한국어/영어로 전환됩니다.

vLLM 공식 recipe 기반 config

vllm-project/recipes 의 recipe 를 받아 config 로 만듭니다. GPU 메모리 대비 어떤 variant 가 맞는지 검토 창에서 확인 후 선택합니다.

llmux config from-recipe Qwen/Qwen3-32B --variant fp8

config 파라미터 on/off

파라미터를 지우지 않고 비활성화/재활성화합니다 (# llmux:disabled 마커). config 편집 시 손으로 쓴 주석도 보존됩니다.

그 외

  • 대시보드 라이브 tok/s 표시, compact 레이아웃
  • config clone
  • vLLM thinking_token_budget env

🐛 버그 수정

  • 프로필 이름 전역 유일성 등 전수조사 지적 10건
  • config from-recipe 쓰기 경로 크래시 (param_hint 누락)
  • 좁은 터미널 안내 화면이 빈 박스로 뜨던 문제
  • 전체 점검에서 확정된 버그 8건 + 후속 하드닝

📝 문서

  • README 데모 GIF 재녹화 (단일 복합 워크스루)
  • CLI 레퍼런스에 profile rename / profile clone / config rename 추가

Full Changelog: v2.3.0...v2.4.0

Assets 2
Loading