$ loading_
帮助团队治理基于 vLLM 与 Ray Serve 的 GPU 推理运维与排障。
复制安装指令,让 AI 自动完成配置 · 推荐新手
请帮我安装 askskill 上的 "Inference AIops" MCP 服务: 执行:claude mcp add 'io-github-aiops-tools-inference-aiops' -- npx -y inference-aiops
运维或平台工程团队在 vLLM 与 Ray Serve 推理服务出现高延迟时,可用它做延迟根因分析并辅助定位问题。适合线上推理服务稳定性治理场景。
当 GPU 推理负载波动时,团队可借助它评估扩缩容操作,平衡服务响应与资源消耗。适用于需要持续优化推理容量的环境。
在需要维护或下线推理节点时,团队可利用它辅助 drain 操作,尽量降低对在线请求的影响。适合生产集群变更管理场景。
它是一个 MCP 工具,用于治理 GPU 推理运维,描述中提到基于 vLLM 与 Ray Serve,支持延迟根因分析、扩缩容和 drain 等操作。
给定描述明确提到 vLLM 与 Ray Serve。除此之外的运行依赖和版本信息,当前素材未提供,见源码仓库。
已知能力包括延迟 RCA、扩缩容和 drain,描述中还提到共有 30 个工具。具体每个工具的功能清单,当前素材未提供,见源码仓库。
帮助团队通过 Prometheus 与 Grafana 完成监控查询、告警分析和根因定位。
帮助团队对 MinIO 进行容量排障、暴露审计、ILM 缺口检查与修复操作
帮助团队对 PostgreSQL 做受治理的 DBA 运维分析,如慢查询、膨胀清理与锁阻塞排查。
帮助运维团队分析 Redis 与 RabbitMQ 队列异常并制定治理策略。
帮助运维团队诊断 Ceph 集群告警并执行关键存储管理操作。
借助 AI 驱动运维能力,辅助监控、排障与运维流程自动化。