可以加载bert4keras里面提供的模型吗
yuanjie-ai opened this issue · comments
可以加载bert4keras里面提供的模型吗
bert4keras本身也没有提供模型，照样需要去其他地方下载标准的预训练模型格式。其次，bert4keras支持的是tf格式的模型，bert4pytorch支持的是pytorch格式的模型。不过倒是可以通过一个函数，支持tf模型转pytorch，这个就以后再考虑了，目前觉得没有太大必要
bert4keras本身也没有提供模型，照样需要去其他地方下载标准的预训练模型格式。其次，bert4keras支持的是tf格式的模型，bert4pytorch支持的是pytorch格式的模型。不过倒是可以通过一个函数，支持tf模型转pytorch，这个就以后再考虑了，目前觉得没有太大必要
可以一起维护这个项目，哈哈
好多预训练的模型是tf的，感觉有必要转换下
其实现在transformer架构的预训练模型，有tf基本就有pytorch版本，社区还是蛮强大的，可能是你没找到。
我的本意就是尽量简洁，不想类似huggingface团队的transformers项目那样搞得太全面却很笨重，tf转pytorch可以实现，这个不难。
其实现在transformer架构的预训练模型，有tf基本就有pytorch版本，社区还是蛮强大的，可能是你没找到。
我的本意就是尽量简洁，不想类似huggingface团队的transformers项目那样搞得太全面却很笨重，tf转pytorch可以实现，这个不难。
transformers里像simbert等一些中文的就没用
ok，后面我添加上这个功能，也尽量多给些例子，这一两周会更新下其他的一些东西