$ loading_
用自然语言驱动 llm-d 集群探测、部署压测与结果分析。
复制安装指令,让 AI 自动完成配置 · 推荐新手
"llm-d-bench-mcp" 暂无可直接复制的安装信息,请查看页面文档或源码仓库。
请根据一个 8 节点的 llm-d 集群,规划一套基准测试方案:包括需要探测的集群信息、推荐的测试维度、执行顺序,以及每一步要调用的 MCP 工具。
输出一套结构化压测计划,涵盖集群探测、测试设计、执行步骤与工具调用建议。
帮我对当前 llm-d 集群执行一次推理基准测试,重点关注吞吐、延迟和并发稳定性;如果缺少前置信息,先自动探测集群状态再开始。
返回测试执行过程、关键指标结果,以及是否存在性能瓶颈或异常节点的判断。
请分析这次 llm-d 基准测试结果,总结主要性能瓶颈,比较不同节点或配置的差异,并给出下一轮优化与复测建议。
生成一份结果分析摘要,包含瓶颈定位、对比结论和可执行的优化建议。
可用自然语言在 Databricks 集群上运行、测试并部署代码与资产包。