liangwq / Chatglm_lora_multi-gpu

chatglm多gpu用deepspeed和

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

解析相应报错

jie1126 opened this issue · comments

image
如上图,是不是没有检索出来?你的read.txt里面咋写的

image 如上图,是不是没有检索出来?你的read.txt里面咋写的

看起来不是没检索出来,你看看chatglm3是不是支持stream_chat方法,不支持你可以选择非stram chat模式

image 如上图,是不是没有检索出来?你的read.txt里面咋写的

看起来不是没检索出来,你看看chatglm3是不是支持stream_chat方法,不支持你可以选择非stram chat模式

支持的,就是响应有问题好像

image 如上图,是不是没有检索出来?你的read.txt里面咋写的

看起来不是没检索出来,你看看chatglm3是不是支持stream_chat方法,不支持你可以选择非stram chat模式

支持的,就是响应有问题好像

read.txt:https://github.com/THUDM/ChatGLM2-6B/blob/main/README.md