Skip to content

v2.6.0 — Chatbot on Claude Sonnet 5.5

Choose a tag to compare

@whchoi98 whchoi98 released this 29 Oct 09:35
· 21 commits to main since this release

English

The chatbot now runs on Claude Sonnet 5.5.

Changed

  • Chatbot (Analyze page and floating chat): the model moved from Claude Sonnet 4.6 to Claude Sonnet 5.5 (global.anthropic.claude-sonnet-5-5 inference profile). The follow-up question generator uses the same model.
    • Requests no longer send temperature. Sonnet 5.5 rejects non-default sampling values.
    • Extended thinking stays off (between_tools). Chat runs at effort medium. Without these settings Sonnet 5.5 would think by default, and the follow-up call's small token budget would run out before its JSON.
    • Sonnet 5.5 returns longer notes between tool calls as reasoning blocks. The chat stream shows them like before and sends them back unchanged on the next tool hop.
    • A declined request now shows a status message instead of an empty answer.

Validation

  • Server and structure checks: 94 passed (chat tools suite: 60 passed, 4 new).
  • Frontend regression tests: 144 passed.
  • Desktop/mobile browser checks: 62 passed against the production build with synthetic API responses.
  • Live Bedrock calls to global.anthropic.claude-sonnet-5-5 in ap-northeast-2, made before the deploy: the follow-up request returned three parsed questions. The tool loop also completed with parallel calls and with sequential calls. In the sequential run, a between-tool note came back as a reasoning block and was sent back on the next hop.
  • Production (2026-10-29): the code shipped in commit 989605e as ECS task definition :123. Both tasks run one image digest and are healthy, with no error logs after the rollout. The sidebar shows 2.6.0 after the next deploy.
  • Not verified: that Bedrock reports a Sonnet 5.5 refusal as content_filtered. A refusal could not be reproduced.

한국어

챗봇 모델이 Claude Sonnet 5.5로 바뀌었습니다.

변경

  • 챗봇(분석 페이지·플로팅 채팅): 모델을 Claude Sonnet 4.6에서 Claude Sonnet 5.5(global.anthropic.claude-sonnet-5-5 inference profile)로 바꿨습니다. 후속 질문 생성도 같은 모델을 씁니다.
    • 요청에서 temperature를 뺐습니다. Sonnet 5.5는 기본값이 아닌 sampling 값을 거부합니다.
    • 확장 사고(extended thinking)는 끈 상태(between_tools)로 두고, 채팅은 effort medium으로 실행합니다. 이 설정이 없으면 Sonnet 5.5가 기본으로 사고를 켜서, 후속 질문 호출의 작은 토큰 예산이 JSON보다 먼저 소진됩니다.
    • Sonnet 5.5는 도구 호출 사이의 긴 메모를 reasoning 블록으로 돌려줍니다. 채팅 스트림은 이를 전처럼 보여 주고, 다음 도구 호출 단계에 그대로 다시 보냅니다.
    • 요청이 거절되면 빈 답변 대신 상태 메시지를 보여 줍니다.

검증

  • 서버·구조 검사: 94건 통과 (챗 도구 테스트 60건, 신규 4건)
  • 프런트엔드 회귀 테스트: 144건 통과
  • 데스크톱·모바일 브라우저 검사: 합성 API 응답으로 프로덕션 빌드에서 62건 통과
  • 배포 전 ap-northeast-2에서 global.anthropic.claude-sonnet-5-5를 직접 호출했습니다. 후속 질문 요청은 질문 3개를 정상 파싱했습니다. 도구 호출 루프는 병렬 호출과 순차 호출 모두 끝까지 완료됐고, 순차 호출에서 도구 사이 메모가 reasoning 블록으로 와서 다음 단계에 그대로 다시 보내졌습니다.
  • 운영(2026-10-29): 커밋 989605e의 코드를 ECS 태스크 정의 :123으로 롤아웃했습니다. 두 태스크가 같은 이미지 다이제스트로 정상 동작하며, 롤아웃 이후 오류 로그는 0건입니다. 사이드바의 2.6.0 표기는 다음 배포 후 반영됩니다.
  • 검증하지 못한 것: Bedrock이 Sonnet 5.5의 거절을 content_filtered로 보고하는지는 거절을 재현하지 못해 확인하지 못했습니다.