基准测试套件¶

vLLM 提供了全面的基准测试工具，用于性能测试和评估：

• 基准测试 CLI：vllm bench CLI 工具以及用于交互式性能测试的专用基准测试脚本。
• 参数扫描：自动运行多个配置的 vllm bench，适用于优化和调优。
• 性能仪表板：自动化的 CI，每次提交都会发布基准测试结果。