Hugging Face's logo

Qwen
/
Qwen3-Omni-30B-A3B-Instruct

Any-to-Any
Transformers
Safetensors
English
qwen3_omni_moe
text-to-audio
multimodal
Model card Files
xet
Community
29

VLLM 和 Sglang 部署 Qwen3-Omni，GPU 的利用率都不高，请问是什么原因？ #114

#27
by yixue - opened
Discussion
yixue

VLLM 和 Sglang 部署 Qwen3-Omni，GPU 的利用率都不高，请问是什么原因？跑更大的文本大模型，都不会出现这样的情况。

Sign up or log in to comment