安装¶ vLLM 支持以下硬件平台: GPU NVIDIA CUDA AMD ROCm Intel XPU CPU Intel/AMD x86 ARM AArch64 Apple silicon IBM Z (S390X) 硬件插件¶ vLLM 支持第三方硬件插件,这些插件独立于主 vllm 代码库。它们遵循硬件可插拔 RFC。 所有支持的硬件列表可在 vllm.ai 网站 上找到。如果您想添加新的硬件支持,请通过 Slack 或 电子邮件 联系我们。