Repository navigation
Replies: 1 comment
|
Không phải lỗi, máy bạn chạy bình thường. Dòng "Model đã tải thành công", "LMDeploy (Optimized) … on GPU (CUDA)" và "Triton: ✅" nghĩa là backend GPU đã lên đúng. Dấu ❌ ở "Prefix Caching" là chuỗi cố định trong WebUI chứ không phải kết quả kiểm tra gì cả (gradio_main.py). WebUI cũng luôn khởi tạo Nếu muốn thử bật prefix caching thì phải gọi qua Python API, vì WebUI không có tùy chọn này. Tham số được truyền thẳng vào from vieneu.fast import FastVieNeuTTS
# mặc định: backbone pnnbao-ump/VieNeu-TTS + codec neuphonic/distill-neucodec trên cuda
tts = FastVieNeuTTS(enable_prefix_caching=True)Mình chưa đo xem bật lên có nhanh hơn cho TTS không. Với RTX 3060 12GB, cấu hình mặc định của WebUI là đủ dùng rồi. |
Uh oh!
There was an error while loading. Please reload this page.
Uh oh!
There was an error while loading. Please reload this page.
Chuyện là mình cài đặt theo hướng dẫn
Cài xong mở WebUI lên load model thì gặp tình trạng này, có cách fix không ạ?
All reactions