剪枝后推理速度

[Lz000613]

作者您好，我使用您的框架进行剪枝，参数量、计算量都砍了一半左右，但是剪枝后模型推理时间变化不大，请问这正常吗？

[Hank Ye]

作者您好，我使用您的框架进行剪枝，参数量、计算量都砍了一半左右，但是剪枝后模型推理时间变化不大，请问这正常吗？

您好，感谢您对工作的关注。
在两者都减少了一半的情况下速度变化不大应该是不太正常的，方便的话您可以分享一下测试环境和测试实验设置，以确认是否存在影响其他因素。