InternLM / InternLM

Official release of InternLM2 7B and 20B base and chat models. 200K context support

Home Page:https://internlm.intern-ai.org.cn/

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

[Bug] LMdeploy跑出来的demo有问题

duliangang opened this issue · comments

Describe the bug

image

Environment

lmDeploy版本0.2.2

Other information

No response

0.2.2 还没有推到 pypi 上去,因为 lmdeploy 在 pypi 上空间不足了

internlm2模型中间有一次更新,改了 special token。请把 internlm2 模型更新到最新。

git拉了最新的代码
image

查看下transformers的版本是不是高于4.34.0

pip show transformers

internlm2的模型依赖了transformers>=4.34.0版本

详见#649

已解决,感谢,因为用20B 必须降版本,导致7B出问题了