[Question]: 如何通过deepspeed+huggingface transformers的方式进行微调训练？
xgySTATISICT opened this issue · comments
Description
能否使用transformers模型加载api加载模型后做微调训练，我看到huggface上有aquila-7b模型可通过模型加载api做推理，不知是否能够微调训练
Alternatives
No response
您可以试试，理论上是可以的
可以按照 transformers 的训练api来跑。