InternLM / Tutorial

LLM Tutorial

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

opencompass测评结果为--,没有显示内容

Cyydz opened this issue · comments

运行代码是教程里的demo代码:
python run.py --datasets ceval_gen --hf-path /share/temp/model_repos/internlm-chat-7b/ --tokenizer-path /share/temp/model_repos/internlm-chat-7b/ --tokenizer-kwargs padding_side='left' truncation='left' trust_remote_code=True --model-kwargs trust_remote_code=True device_map='auto' --max-seq-len 2048 --max-out-len 16 --batch-size 4 --num-gpus 1 --debug
我的batch size设了1 2 4,都试过了,debug的过程一直有error。
报错图片如下
92978f754cd0352c453922d8e7bdf34

同上

我也是,看显存占用量,似乎没有正确加载模型~但不知道如何debug