ziwang-com / zero-lora

zero零训练llm调参

Home Page:http://www.m-f.vip

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

使用中文指令数据集微调LLaMA-7B

ziwang-com opened this issue · comments

https://github.com/A-baoYang/alpaca-7b-chinese
🦙🧋🇹🇼使用中文指令数据集微调LLaMA-7B
有关LLM的更多微调方法,请参阅LLM-微调指南

这个存储库是用中文数据集微调LLaMA-7B的教程!我调查并结合数据集和方法,以微调我自己的LLM用于复杂的NLP任务,如摘要,问答,文本生成,自定义数据增强等。

由于最初的斯坦福 Alpaca-7B 微调需要大量 GPU 资源,因此我专注于研究低 GPU 消耗的方法。