Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

关于复现结果的问题 #27

Open
JJJiangYH opened this issue Dec 20, 2022 · 1 comment
Open

关于复现结果的问题 #27

JJJiangYH opened this issue Dec 20, 2022 · 1 comment

Comments

@JJJiangYH
Copy link

您好,很感谢您所做出的卓越的成绩。
在进行复现时,我是用原代码中的参数设置进行。
在使用base bert;bs=4;epoch=40的情况下,跑出的数据F1为0.496。与论文中数据差异过大。
但是在Paddle实现的代码中,使用Ernie的效果与论文中相近。
因此想了解一下,您论文中的实验也是通过Ernie进行的吗?或者是将基于Bert的Ernie也算作为Bert模型进行的实验。
image
望回复,谢谢。

@BenfengXu
Copy link
Owner

感谢关注我们的工作,论文中的实验是通过标准的BERT进行的,请首先检查pytorch和transformers的依赖版本,因为代码的实现比较早,所以对应的版本也比较老了,另外,请检查bert的checkpoint文件是否相匹配(对应transformers==2.7)。

以下两个issue有相应的md5值,可供参考:
#8
#7

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants