Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

可以加载bert4keras里面提供的模型吗 #3

Open
yuanjie-ai opened this issue Sep 2, 2021 · 6 comments
Open

可以加载bert4keras里面提供的模型吗 #3

yuanjie-ai opened this issue Sep 2, 2021 · 6 comments

Comments

@yuanjie-ai
Copy link

可以加载bert4keras里面提供的模型吗
@MuQiuJun-AI
Copy link
Owner

bert4keras本身也没有提供模型，照样需要去其他地方下载标准的预训练模型格式。其次，bert4keras支持的是tf格式的模型，bert4pytorch支持的是pytorch格式的模型。不过倒是可以通过一个函数，支持tf模型转pytorch，这个就以后再考虑了，目前觉得没有太大必要

@yuanjie-ai
Copy link
Author

bert4keras本身也没有提供模型，照样需要去其他地方下载标准的预训练模型格式。其次，bert4keras支持的是tf格式的模型，bert4pytorch支持的是pytorch格式的模型。不过倒是可以通过一个函数，支持tf模型转pytorch，这个就以后再考虑了，目前觉得没有太大必要

可以一起维护这个项目，哈哈

@yuanjie-ai
Copy link
Author

好多预训练的模型是tf的，感觉有必要转换下

@MuQiuJun-AI
Copy link
Owner

其实现在transformer架构的预训练模型，有tf基本就有pytorch版本，社区还是蛮强大的，可能是你没找到。
我的本意就是尽量简洁，不想类似huggingface团队的transformers项目那样搞得太全面却很笨重，tf转pytorch可以实现，这个不难。

@yuanjie-ai
Copy link
Author

其实现在transformer架构的预训练模型，有tf基本就有pytorch版本，社区还是蛮强大的，可能是你没找到。
我的本意就是尽量简洁，不想类似huggingface团队的transformers项目那样搞得太全面却很笨重，tf转pytorch可以实现，这个不难。

transformers里像simbert等一些中文的就没用

@MuQiuJun-AI
Copy link
Owner

ok，后面我添加上这个功能，也尽量多给些例子，这一两周会更新下其他的一些东西

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Assignees
No one assigned
Labels
None yet
Projects
None yet
Milestone
No milestone
Development

No branches or pull requests
2 participants
@yuanjie-ai @MuQiuJun-AI