Update: update lmcache version to v0.3.3

[TaeSooRhee-moreh]

LMCache의 version을 v0.3.3으로 업데이트

• v0.3.5(v0.3.4에서 문제가 있는 부분 수정)까지 나와있으나 v0.3.4, 0.3.5 둘다 lmcache가 실행이 안됨
• v0.3.3으로 업데이트 과정에서 infinistore나 mooncake에 제대로 저장 안되는 문제 생김
  • 분석결과 initial hash값을 주는걸로 변경하는 과정에서 같은 hash가 나올라면 PYTHONHASHSEED값의 통일이 필요함

봐야할 부분

• helm chart values 변경
• Dockerfile.moreh 부분 변경

https://moreh.slack.com/lists/T01BLNAK88Z/F099BH8PEKU?record_id=Rec09C08W1SS1

[Copilot]

Pull Request Overview

This PR updates LMCache to version v0.3.3 and addresses version compatibility issues with storage backends. The update includes important changes to licensing, dependency management, and core functionality to ensure consistent caching behavior across distributed systems.

• Updates LMCache from an unspecified version to v0.3.3 with hash consistency improvements
• Standardizes licensing from full Apache-2.0 headers to SPDX license identifiers
• Removes version pinning for torch and related dependencies to improve vLLM compatibility

Reviewed Changes

Copilot reviewed 297 out of 329 changed files in this pull request and generated 6 comments.

Show a summary per file

File	Description
Multiple test files	Remove deprecated pipelined_backend configuration parameter
License headers	Replace verbose Apache-2.0 headers with SPDX identifiers across all files
requirements/*.txt	Unpin torch versions and add version constraints for pytest compatibility
lmcache/v1/token_database.py	Major refactor to support vLLM hash functions and consistent cross-process caching
Storage backend files	Update interfaces and add new functionality for nixl, offload server, and monitoring
Multiple connector files	Add ping support and improve error handling for remote connections

---

_{Tip: Customize your code reviews with copilot-instructions.md. Create the file or learn how to get started.}

[insukim1994]

필수값인 경우, helm chart 상에서 명시적으로 "required" 옵션을 주거나, 기본값이 있다면 설명에서는 생략해도 될 것 같습니다

[TaeSooRhee-moreh]

config내에 remote_url을 넣어줄때의 방법이라 helm chart상의 값이 아닙니다
따로 기본값이나 required를 넣어줄 방법이 없어 README에만 적었습니다.

[insukim1994]

• helm/values 디렉토리는 예시 values를 모두 추가해주신 것이죠?
• 현재 moreh-dev/dynamo에서는 helm 예시를 모두 https://github.com/moreh-dev/dynamo/tree/main/examples/helm 로 이동시키긴 했습니다
• 유사하게 별도의 examples 디렉터리가 있다면 해당 디렉터리 하위로 옮겨도 좋을 것 같습니다

[insukim1994]

리뷰가 늦어서 죄송합니다. 몇가지 궁금한 부분들 코멘트드렸습니다

[insukim1994]

host를 혹시 그대로 사용할 수 없는 이유가 있었나요? (가령 불필요한 문자열이 추가되는 등의 이슈가 있었나요?)

[TaeSooRhee-moreh]

제가 리뷰를 이제 봤네요ㅠㅠ
infinistore에 svc domain 주소로 넣어주면 ip로 변환을 하지 않고 그대로 쓰려해서 문제가 되어
밖에서 host_addr로 변환해서 넣어줘야만 합니다.

[insukim1994]

{{ .Values.mooncake.master.nodeSelectorTerms | toYaml | indent 14 }}
대신
{{- .Values.mooncake.master.nodeSelectorTerms | toYaml | indent 14 }} 으로 변경하고 인덴테이션을 다음처럼 맞춰줘도 좋을 것 같습니다:

      affinity:
        nodeAffinity:
          requiredDuringSchedulingIgnoredDuringExecution:
            nodeSelectorTerms:
            {{- .Values.mooncake.master.nodeSelectorTerms | toYaml | indent 14 }}

[insukim1994]

코멘트 내용 상 아래에 있는 설명인 것이죠? 인덴테이션이 추가로 적용된 것 같아서 맞춰주어도 좋을 것 같습니다

[insukim1994]

여기도 코멘트 내용 상 아래에 있는 설명인 것이죠? 인덴테이션이 추가로 적용된 것 같아서 맞춰주어도 좋을 것 같습니다

[insukim1994]

helm-docs를 통해서 아래 각각의 차트들에 대한 README.md 파일을 생성할 수 있는데 추가해주신는 것도 괜찮을 것 같습니다:

• https://github.com/moreh-dev/LMCache/tree/546814dc34d007362f8865378df18bab139296ad/helm/infinistore
• https://github.com/moreh-dev/LMCache/tree/546814dc34d007362f8865378df18bab139296ad/helm/lmcache
• https://github.com/moreh-dev/LMCache/tree/546814dc34d007362f8865378df18bab139296ad/helm/mooncake