上下文记忆
CALMCRAZY opened this issue · comments
请教一下，虽然实现了调用API的功能，但失去了上下文记忆？变成单次问答了？
看起来是这个样子的。我觉得可以在每次prompt里插入之前的对话历史来保留上下文能力。
看起来是这个样子的。我觉得可以在每次prompt里插入之前的对话历史来保留上下文能力。
确实，看别人调用gpt-3.5-turbo API的demo也是这么做的。但模型最多处理4096 token，包括输入和输出，这个项目里光是引导chatgpt调用API的prompt已经占用了很多token了，再插入对话历史留给输出的token就寥寥无几了
一种办法是超出token之后把前面的对话概括后再发送，不过这样API燃烧地很快吧。
这个问题解决了
看起来是这个样子的。我觉得可以在每次prompt里插入之前的对话历史来保留上下文能力。
是的，已经这样实现了