Giters

yangjianxin1 / Firefly

Firefly: 大模型训练工具，支持训练Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom等大模型

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

请问有计划做Qwen1.5训练的适配吗？

YuqingFa opened this issue · comments

commented

目前我们团队直接使用现在的代码对Qwen1.5的模型进行微调无法正常运行

commented

目前版本的代码可支持训练Qwen1.5，只需将transformers更新到4.37即可

commented

目前我们团队直接使用现在的代码对Qwen1.5的模型进行微调无法正常运行

佬，测试成功了吗。我这边运行成功但是预测时会提示找不到adapter_config.json。但是有同时模型文件和其他模型目录是一致的。