[QA] 请问如何在昇腾910上进行模型微调？
rourouZ opened this issue · comments
描述问题
昇腾910 微调7B
您好，InternLM 支持在开源仓库 InternEvo 上使用 NPU 进行微调，只需要使用 torch2.1，且在 torchrun 启动时导入环境变量：export INTERNLM_ACCELERATOR="npu"即可（其余 NPU 启动命令请参考华为相关文档）
感谢！
请问lora微调支持吗
InternEvo 暂时不支持 Lora 微调，不过未来这部分会考虑开源 :)