Giters

intel / ipex-llm

Accelerate local LLM inference and finetuning (LLaMA, Mistral, ChatGLM, Qwen, DeepSeek, Mixtral, Gemma, Phi, MiniCPM, Qwen-VL, MiniCPM-V, etc.) on Intel XPU (e.g., local PC with iGPU and NPU, discrete GPU such as Arc, Flex and Max); seamlessly integrate with llama.cpp, Ollama, HuggingFace, LangChain, LlamaIndex, vLLM, DeepSpeed, Axolotl, etc.

Repository from Github https://github.comintel/ipex-llmRepository from Github https://github.comintel/ipex-llm

怎么限制 gpu使用率

gaoconggit opened this issue · comments

commented

我的电脑间歇性闪屏

commented

如果使用的是windows，请升级到最新的驱动
https://www.intel.cn/content/www/cn/zh/support/articles/000091441/graphics.html

如果使用的是Linux、可以通过xpu-smi限制GPU的频率

 sudo xpu-smi config -d 0 -t 0 --frequencyrange 2000,2000
commented

Image

我这个你们的显卡自带的工具，提示已经是最新的了

commented

Image

我这个你们的显卡自带的工具，提示已经是最新的了

如果已经安装了这个软件，可以在“性能调优”选项内，调节GPU的频率和供电等。

更多相关文档，请查阅以下链接
http://intel.cn/content/www/cn/zh/products/docs/discrete-gpus/arc/software/graphics-software.html

commented

Image

我没有这个选项