华为Ascend NPU卡训练的时候，需要设置哪些参数？
apachemycat opened this issue · comments
目前有华为NPU卡可以用来训练测试，不清楚需要设置哪些参数？
@apachemycat
核心问题是确定华为的卡是否支持这些包的安装（或编译）
https://github.com/InternLM/xtuner/blob/main/requirements/runtime.txt
如果能正常安装好这些包，用法就与 NV GPU 相似了
InternLM / xtuner
An efficient, flexible and full-featured toolkit for fine-tuning LLM (InternLM2, Llama3, Phi3, Qwen, Mistral, ...)