PKU-YuanGroup / ChatLaw

ChatLaw:A Powerful LLM Tailored for Chinese Legal. 中文法律大模型

Home Page:https://chatlaw.cloud/

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

怎么保留基座模型原有的问答能力

suckseed5 opened this issue · comments

请问在用指令数据微调的时候,有没有再加上通用数据?
我在尝试微调的时候:
1、指令+垂直领域问题/不加指令+通用问题
==》没法区分用户的问题是否要加上指令,加上指令会回答正确,不加回答不上来。
2、垂直领域问题
==》只能回答垂直领域问题,通用能力完全丧失。

谢谢!