预测速度很慢

[Biaocsu]

您好，请问您那边训练模型时，机器配置怎样的，预测时速度又怎样？
我这边使用4张卡（每张卡16G显存），max_enc_len=512，其余参数未变，batch_size最大只能设置到3。因为数据量很大，训练数据有40多万条，这导致训练很慢。
预测时，因为对显存要求较低，batch_size=30，发现预测速度平均1.8673982858657836s/条。这很不合理，请问你那边当初有这样的问题吗？或者可能导致的原因在哪，多谢

[tianzuishiwo]

你好，能提供一下带数据的完整demo吗？或者只提供项目数据，谢谢啦

[Biaocsu]

我没有这个比赛的数据。我用的内部数据

[tianzuishiwo]

我有比赛数据，但是demo没跑通，能去掉内部数据，把跑通的demo发我吗

…

------------------ 原始邮件 ------------------ 发件人: ***@***.***>; 发送时间: 2022年11月14日(星期一) 下午4:40 收件人: ***@***.***>; 抄送: ***@***.***>; ***@***.***>; 主题: Re: [menghuanlater/Tianchi2020ChineseMedicineQuestionGeneration] 预测速度很慢 (Issue #3) 我没有这个比赛的数据。我用的内部数据 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: ***@***.***>

[Biaocsu]

我后面项目中没有借鉴这个，因此初期调研代码删掉了。很简单的，你花点时间自己检查下应该没问题，这个项目好像没有bug

[tianzuishiwo]

好的，谢谢回复！

…

------------------ 原始邮件 ------------------ 发件人: ***@***.***>; 发送时间: 2022年11月14日(星期一) 下午4:52 收件人: ***@***.***>; 抄送: ***@***.***>; ***@***.***>; 主题: Re: [menghuanlater/Tianchi2020ChineseMedicineQuestionGeneration] 预测速度很慢 (Issue #3) 我后面项目中没有借鉴这个，因此初期调研代码删掉了。很简单的，你花点时间自己检查下应该没问题，这个项目好像没有bug — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: ***@***.***>