$ loading_
用自然语言驱动 llm-d 集群探测、部署压测与结果分析。
复制安装指令,让 AI 自动完成配置 · 推荐新手
"llm-d-bench-mcp" 暂无可直接复制的安装信息,请查看页面文档或源码仓库。
请根据一个 8 节点的 llm-d 集群,规划一套基准测试方案:包括需要探测的集群信息、推荐的测试维度、执行顺序,以及每一步要调用的 MCP 工具。
输出一套结构化压测计划,涵盖集群探测、测试设计、执行步骤与工具调用建议。
帮我对当前 llm-d 集群执行一次推理基准测试,重点关注吞吐、延迟和并发稳定性;如果缺少前置信息,先自动探测集群状态再开始。
返回测试执行过程、关键指标结果,以及是否存在性能瓶颈或异常节点的判断。
请分析这次 llm-d 基准测试结果,总结主要性能瓶颈,比较不同节点或配置的差异,并给出下一轮优化与复测建议。
生成一份结果分析摘要,包含瓶颈定位、对比结论和可执行的优化建议。
让 Claude Code 接入外部大模型进行会话咨询、并行求证与联网研究。
将 Claude Code 记录转为可查询分析,便于审计成本、安全与效率洞察。
让 Claude Code 协同调用多个大模型完成编码与复杂任务处理。
让编码代理把样板生成与摘要等限定文本任务分流给本地或低成本模型。
将 Claude Code 连接到本地 llama.cpp,便于低成本测试与运行本地大模型。
可用自然语言在 Databricks 集群上运行、测试并部署代码与资产包。