airockchip/rknn-llm Issues
新手求助：如何更新NPU内核版本至0.9.6
Updated 2support qwen2-7b?
Updated 1这个项目有支持多模态大模型的计划吗？比如MiniCPM-V_2.5
Updated 3RKLLM支持多模态视觉大模型的转换吗
Closed如何接入anythingllm或fastgpt
Updated运行test.py报错
UpdatedError compiling kernel
UpdatedSupport RK3566?
Updated在板子上跑server的demo，跑不起来，帮看下什么原因
Updated 6How to adapt the RWKV LLM?
Updated可以支持多模态么
Closed 3跑大模型遇到问题
Closed 1是否支持 rk3582
Updated 2internlm2_rkLLM对话效果不好
Updated 2qwen-1.8b模型对话结果不好
Updatedinternlm2-chat-1_8b模型转换出错
UpdatedInstructions?
Updated是否支持自定义rkllm的模型量化？
Closed 3兼容openai格式的接口
Updated 1Phi3 推理无法结束或在最后出现无效输出
Closed 2转化模型时出错
Closed输出全是： ！！！！！！！ 。这样的
UpdatedPhi-3 error
Updated 10LLM models have bad output
Updated 9phi3 load error in rkllm1.0.1
Closed 9rkllm_init error in rkllm1.0.1
Closed 2将来是否会支持 moe 模型
Updatedflask_server.py DEMO无法正常执行
Closed 7Qwen1.5-0.5B模型两次回答不一致
Updated 10rkllm1.0.1 总是激活3个core
Updated模型转换内存需求过大
Updated 6rknn_init failed
Updated 1Open Source SDK
Closed模型可视化、推理性能评估
Updated