显卡要求

[liuyanqun0815]

显卡使用云上的Nvidia Tesla T4，内存16G, 测试语音合成速度还是慢呢，大概1s的语音推理需要1s

需要调什么参数吗，内存使用也提不上去

[liuyanqun0815]

[jianchang512]

1s没测试意义，合成1分钟的音频

[liuyanqun0815]

测试很多了，都是视频速率， 平均1s的音频需要推理1s

[jianchang512]

升级到 0.98，打开 .env 将 merge_size 调大点，比如10，然后再试试

[liuyanqun0815]

调到16，测试几笔效果没有变化，，另外同时打开两个页面，每个页面都输入内容，同时进行语音合成， 处理时长加倍了，单线程跑的吗？
测试单个合成请求

同时测试两个合成请求

另外开启了多线程，没有效果

[liuyanqun0815]

当前版本28最新的

[jianchang512]

多线程没意义，除非有n个显卡并发，目前ChatTTS内核并不支持

如果调到16也无效，就只能这样了，或许ChatTTS后续内核升级会改善吧

[smallsee952]

为何推理的速度不能跑满GPU，我的1650的笔记本4G显卡跑的速度还没有MX150的2G显卡，1650只能跑25it/s，MX150都能跑30it/s，后面通过作者的方法打开 .env 将 merge_size 调大点，比如10，是快了一些，但是我觉得这个不应该是满速跑的，使用GPT-SoVITS都可以跑到45it/s，是不是Chat-TTS还不支持那么快的推理速度呢？如果知道的话，可以回复一下。

[jianchang512]

这个属于ChatTTS内核问题，目前就是跑不满，等ChatTTS优化吧

https://github.com/2noise/ChatTTS/issues

[smallsee952]

这个属于ChatTTS内核问题，目前就是跑不满，等ChatTTS优化吧

https://github.com/2noise/ChatTTS/issues

那只能等待原作者完善这个问题