pojdd / rwkvcpp

rwkv.cpp

注意源项目现在支持中文了，直接用源项目的代码就好啦。

说明

chatRWKV是以RNN为基础的NLP模型

rwkv.cpp是一个用cpp部署chatRWKV的项目。

项目代码来源于https://github.com/saharNooby/rwkv.cpp

这份代码主要添加了模型后处理的一些细节，以支持中文，改善用词重复问题。

使用方法

• 请参考原来的项目。
• 使用方法和原项目一样。

懒人包

• 百度云链接: https://pan.baidu.com/s/1bZJGki62CMsWCItGjDFz7A 提取码: 1234
• 根据原来的项目转换模型。
• 模型下载地址是 https://huggingface.co/BlinkDL/rwkv-4-raven/tree/main
• B站视频介绍链接：https://www.bilibili.com/video/BV1KX4y1z7cM
• 注意是Raven模型也就是对话模型。bot.py里面只对话进行了处理。

最后

• 祝你玩得愉快。