AIDotNet / AntSK

基于.Net8+AntBlazor+SemanticKernel 和KernelMemory 打造的AI知识库/智能体,支持本地离线AI大模型。可以不联网离线运行。支持aspire观测应用数据

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

问题请教,【聊天】 让用200字形容【北京旅游】,却一直停不下来。不停重复

duyanming opened this issue · comments

使用的什么模型,如果出现循环一般是模型智力不行

非常感谢你的回复。
我用的示例中给的这个
qwen1_5-1_8b-chat-q8_0.gguf。

是否可以推荐一个,个人电脑可以运行起来的。
谢谢

非常感谢你的回复。
我用的示例中给的这个
qwen1_5-1_8b-chat-q8_0.gguf。

是否可以推荐一个,个人电脑可以运行起来的。
谢谢

可以使用新版本的llamafactory支持更多的模型 例如gemma