zgcr / SimpleAICV_pytorch_training_examples

SimpleAICV:pytorch training and testing examples.

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

为什么自己训练下的Resnet50预训练权重和pytorch库里面相差很大

Qingzhang1994 opened this issue · comments

您好,我想请教一下,为什么咱们自己训练下的权重和pytorch官方给出的预训练权重会相差很大。原本pytorch官方的预训练参数我能到0.616.现在拿咱们这个模型训出来的预训练参数性能只能到0.499. 我是哪一步出错了吗。因为我这个还挺依赖预训练参数。

commented

您好,我想请教一下,为什么咱们自己训练下的权重和pytorch官方给出的预训练权重会相差很大。原本pytorch官方的预训练参数我能到0.616.现在拿咱们这个模型训出来的预训练参数性能只能到0.499. 我是哪一步出错了吗。因为我这个还挺依赖预训练参数。

你好,信息不足,我这边无法判断。我只能确定本库训练的resnet50在ImageNet上的性能。请列出更多详细信息,比如你的下游任务是什么,具体实验设置等等。

commented

您好,我想请教一下,为什么咱们自己训练下的权重和pytorch官方给出的预训练权重会相差很大。原本pytorch官方的预训练参数我能到0.616.现在拿咱们这个模型训出来的预训练参数性能只能到0.499. 我是哪一步出错了吗。因为我这个还挺依赖预训练参数。

你好,还有一种情况,你是不是直接拿官方的resnet50定义类去加载我的权重和官方权重了?我这个库的resnet类和官方resnet类虽然网络结构全部一样,但是具体到每层的名字并不一样,直接加载我的权重必定会有部分层权重不能正确加载,甚至有可能所有层的权重都没有加载进去。