如何将GLM10B封装成对话式API
yihuaxiang opened this issue · comments
ChatGLM-6B对外暴露的是对话式API，GLM-10B暴露的是文本补全式的API，如何能将GLM-10B封装成对话式API呢？
我尝试过将对话内容封装成对话文本让GLM-10B进行补全，但是效果很不好，求建议❤️❤️❤️
原理：将对话内容封装成一段字符串，每次到AI回答的时候就将历史聊天记录封装成字符串，由AI进行补全
封装成对话文本如下：
有一段对话内容如下
用户：你好哇
机器人： 你好哇,我是 GLM10B 智能机器人,很高兴与你对话。
用户：你知道我是谁吗？
机器人： 你好哇,我是 GLM10B 智能机器人,很高兴与你对话。
用户：你猜猜我叫什么
机器人：[sMASK]
对话效果如下：
对话效果很差，AI机器人一直在重复。
AI小呆也是基于GLM-10B吧，为什么她的回答就好很多呢？🤔️求建议～
需要尝试一下指令微调。不过ChatGLM-6B迄今为止没有公布他们如何将GLM-XXX微调为ChatGLM-6B的。
感谢🙏from 敖武在 2023年6月16日，16:42，xiningnlp ***@***.***> 写道：
需要尝试一下指令微调。不过ChatGLM-6B迄今为止没有公布他们如何将GLM-XXX微调为ChatGLM-6B的。
—Reply to this email directly, view it on GitHub, or unsubscribe.You are receiving this because you authored the thread.Message ID: ***@***.***>