在搭载RTX 50系显卡的Windows系统上部署GPT-SoVITS（WSL2方案）

[syd2333]

环境背景

• Windows 11 + WSL2 (Ubuntu)
• NVIDIA RTX 5080
• CUDA 12.8
• Python 3.10

问题概述

RTX 50系显卡刚发布，目前Windows版PyTorch还未支持CUDA 12.8。同时，GPT-SoVITS项目与最新版PyTorch存在兼容性问题。主要涉及：

1. 类型注解问题（Tuple未定义）
2. PyTorch 2.6+的weights_only参数默认值变更导致的模型加载问题
3. 项目路径结构问题

解决方案

1. WSL2环境配置

# 创建并激活虚拟环境
python3 -m venv venv
source venv/bin/activate

# 安装支持CUDA 12.8的PyTorch nightly版本
pip install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cu128

2. 验证CUDA可用性

import torch
print(f'PyTorch version: {torch.__version__}')
print(f'CUDA available: {torch.cuda.is_available()}')
print(f'CUDA version: {torch.version.cuda}')
print(f'GPU device: {torch.cuda.get_device_name(0)}')

3. 项目代码修改

需要修改的文件：GPT_SoVITS/AR/modules/patched_mha_with_cache.py和GPT_SoVITS/inference_webui.py

3.1 修复Tuple类型注解问题

# 在patched_mha_with_cache.py文件开头添加
from typing import Tuple

3.2 解决PyTorch模型加载兼容性问题

在inference_webui.py文件中：

# 添加必要的导入
from torch.serialization import add_safe_globals
from utils import HParams
add_safe_globals([HParams])

# 修改模型加载部分
dict_s2 = torch.load(sovits_path, map_location="cuda", weights_only=False)

4. 项目路径结构

确保模型文件位于正确的目录结构：

~/projects/GPT-SoVITS/
└── GPT_SoVITS/
    └── pretrained_models/
        ├── chinese-roberta-wwm-ext-large/
        ├── chinese-hubert-base/
        └── gsv-v2final-pretrained/

5. 启动WebUI

python webui.py --host 0.0.0.0 --port 9880

注意事项

1. 建议在WSL2的原生文件系统中操作，而不是在mounted目录（/mnt/）下，以获得更好的性能
2. 使用weights_only=False可能存在安全风险，请确保模型文件来源可信
3. 确保系统已正确安装NVIDIA驱动并支持WSL2

常见问题

1. 如遇到路径问题，检查模型文件的目录结构
2. 如果出现CUDA相关错误，确认PyTorch版本与CUDA版本匹配
3. 如遇到模型加载错误，检查是否正确添加了HParams支持

[syd2333]

在 GPT_SoVITS/TTS_infer_pack/TTS.py 中添加PyTorch 2.6+兼容性支持：

# 在文件顶部导入部分添加
from torch.serialization import add_safe_globals
from utils import HParams
add_safe_globals([HParams])

# 修改init_vits_weights方法中的torch.load调用
def init_vits_weights(self, weights_path: str):
    print(f"Loading VITS weights from {weights_path}")
    self.configs.vits_weights_path = weights_path
    dict_s2 = torch.load(weights_path, map_location=self.configs.device, weights_only=False)  # 添加weights_only=False

[RVC-Boss]

fixed

[linksee-dev]

有人有跑得动的 一键启动包嘛？配环境配了两天啦都启动不起来 😭😭😭

[adventure705]

在 GPT_SoVITS/TTS_infer_pack/TTS.py 中添加PyTorch 2.6+兼容性支持：

在文件顶部导入部分添加

from torch.serialization import add_safe_globals
from utils import HParams
add_safe_globals([HParams])

修改init_vits_weights方法中的torch.load调用

def init_vits_weights(self, weights_path: str):
print(f"Loading VITS weights from {weights_path}")
self.configs.vits_weights_path = weights_path
dict_s2 = torch.load(weights_path, map_location=self.configs.device, weights_only=False) # 添加weights_only=False

I was experiencing a similar issue, but I’ve resolved it now. Thank you so much

[Ventery]

windows版本改完也可以运行了

[adventure705]

Windows version can also run after changing

That’s right! I’m currently using the Windows version with the method mentioned above.
Thank you so much!