daaiyiyejian / CreativeChatGLM

👋 欢迎来到 ChatGLM 创意世界!你可以使用修订和续写的功能来生成创意内容!

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

💡Creative ChatGLM WebUI

👋 欢迎来到 ChatGLM 创意世界!你可以使用修订和续写的功能来生成创意内容!

  • 📖 你可以使用“续写”按钮帮 ChatGLM 想一个开头,并让它继续生成更多的内容。
  • 📝 你可以使用“修订”按钮修改最后一句 ChatGLM 的回复。

环境配置

环境配置参考官方链接:https://github.com/THUDM/ChatGLM-6B

配置好之后,直接运行 web_demo.py 即可:

python web_demo.py

用法介绍

续写

原始对话

如果你直接问 ChatGLM:“你几岁了?”

它只会回答:“作为一个人工智能语言模型,我没有年龄,我只是一个正在不断学习和进化的程序。”

image

续写对话

而如果你给它起个头:“我今年”

它就会回答:“我今年21岁。”

image

使用视频

ChatGLM2

修订

原始对话

如果你直接跟 ChatGLM 说:“你是谁?”

它会回答:“我是一个名为 ChatGLM-6B 的人工智能助手,是基于清华大学 KEG 实验室和智谱 AI 公司于 2023 年共同训练的语言模型开发的。我的任务是针对用户的问题和要求提供适当的答复和支持。”

你再问它:“你几岁了?”

它只会说:“作为一个人工智能助手,我没有年龄,因为我只是一个程序,没有实际的肉体或生命。我只是一个在计算机上运行的程序,专门设计为回答用户的问题和提供相关的帮助。”

image

修改对话

你可以改变它的角色,比如你通过“修订”功能,将它的回复改成:“我是杨开心。”

然后你再问它:“你几岁了?”

它就会回答:“我今年15岁。”

image

使用视频

未命名项目

实现原理

这个方法并没有训练,没有修改官方发布的权重,而只是对推理的函数做了修改。

续写的原理是,将用户的输入直接设置为 history[-1][1],模拟模型自己的部分输出,然后继续走之后的推理函数 stream_chat_continue code

修订的原理是,将用户的输入直接设置为 history[-1][1],模拟模型自己的完整输出,但是不走推理函数。

协议

本仓库的代码依照 Apache-2.0 协议开源,ChatGLM-6B 模型的权重的使用则需要遵循 Model License

About

👋 欢迎来到 ChatGLM 创意世界!你可以使用修订和续写的功能来生成创意内容!

License:Apache License 2.0


Languages

Language:Python 98.6%Language:Batchfile 1.4%