nndeploy是一款模型端到端部署框架。以多端推理以及基于有向无环图模型部署为基础,致力为用户提供跨平台、简单易用、高性能的模型部署体验。
Home Page:https://nndeploy-zh.readthedocs.io/zh/latest/
Geek Repo:Geek Repo
Github PK Tool:Github PK Tool
AACengineer opened this issue 3 months ago · comments
目前有部署大语言模型的demo吗?
暂时还不支持呀