[Bug] LMdeploy跑出来的demo有问题
duliangang opened this issue · comments
duliangang commented
Lyu Han commented
0.2.2 还没有推到 pypi 上去,因为 lmdeploy 在 pypi 上空间不足了
Lyu Han commented
internlm2模型中间有一次更新,改了 special token。请把 internlm2 模型更新到最新。
duliangang commented
zhulinJulia24 commented
duliangang commented
已解决,感谢,因为用20B 必须降版本,导致7B出问题了