使用自己训练的模型打开jit，trt之后，发现没有原始模型加速效果明显

[brooks348]

采用原始的模型使用jit及trt之后加速比较明显，使用自己训练的模型发现速度提升很小，有没有遇到的同学。

[brooks348]

顶，麻烦问下有没有遇到的同学

[li-weihua]

jit应该没啥用，trt可以明显加速flow matching的计算。你的问题应该是卡在LLM的计算上了，可以考虑把LLM模块单独部署成服务。