Skip to content

[Question]: ernie-3.0 训练数据集和精度咨询 #5897

@tiandou-tangdou

Description

@tiandou-tangdou

请提出你的问题

请问ernie-3.0-xbase-zh训练精度达到多少认为满足精度标准?应该使用什么作为标准?
另外如果想使用更大的数据集训练更长时间,我们想用wudao数据进行训练,这个有建议的方式吗,另外对应的训练精度有参照吗?

谢谢

我们训练结果:
train metrics:
image
eval metrics:
image
test metrics:
image

命令和配置如下:
python -m paddle.distributed.launch --devices=0,1,2,3 run_token_cls.py
--dataset msra_ner
--model_name_or_path ernie-3.0-xbase-zh
--output_dir ./checkpoint
--overwrite_output_dir True
--do_train
--config=configs/default.yml
--seed 10
--logging_steps 1
--device swai
--max_grad_norm 0
--fp16 True
--fp16_opt_level "O1"

Metadata

Metadata

Assignees

Labels

questionFurther information is requestedtriage

Type

No type

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests

Issue actions