基准测试套件¶ vLLM 提供了全面的基准测试工具,用于性能测试和评估: 基准测试 CLI:vllm bench CLI 工具以及用于交互式性能测试的专用基准测试脚本。 参数扫描:自动运行多个配置的 vllm bench,适用于优化和调优。 性能仪表板:自动化的 CI,每次提交都会发布基准测试结果。