$ loading_
帮助AI代理发现并预留GPU节点,通过签名句柄进行无状态管理并派发推理任务。
复制安装指令,让 AI 自动完成配置 · 推荐新手
"gpu-broker-mcp" 暂无可直接复制的安装信息,请查看页面文档或源码仓库。
你是GPU调度助手。请先用GPU-broker MCP发现当前可用的GPU节点,再筛选出显存和负载满足要求的节点;使用签名句柄预留一台节点,并将一条文本生成推理请求派发过去,返回节点信息、签名句柄和派发结果。
返回可用GPU列表、筛选依据、签名句柄、目标节点与该推理派发是否成功的摘要。
请展示一个两步流程:第一步用GPU-broker MCP发现并预留一个GPU节点,拿到签名句柄;第二步基于该签名句柄继续分发第二条推理请求,并汇总两步的节点与状态。注意使用无状态方式,仅通过句柄链路关联。
输出两步调度记录:每步的签名句柄引用、派发节点、任务状态以及是否仍处于已预留但可追踪的状态。
开发者在发布推理型AI功能前,需要先确认可用GPU能力并完成预留,再把推理请求准确分发到合适节点,以提升上线效率与稳定性。
运维或研发团队在流量波动时,可借助签名句柄实现无状态的节点预留与派发记录,减少手工状态同步带来的错误和延迟。
它是一个 MCP 工具,用于让 AI 代理发现 GPU 节点、预留资源,并将推理任务派发到节点,同时借助签名句柄实现无状态的预留管理。
现有信息只描述了能力边界(发现、预留、派发、签名句柄),未提供具体安装、鉴权或运行时细节,请以源码仓库中的部署说明为准。
它通过统一的 MCP 接口把“找节点—预留—派发”串在一起,并用签名句柄承载状态,流程更适合AI代理自动化编排;具体对比与实现细节见源码仓库。
将本地 NVIDIA GPU 与 Rust→WASM 工具链开放为 MCP 工具,支持本地主权计算。
帮助团队统一管理 AI 代理与 GPU 基础设施、成本治理及合规审计。
让云端大模型通过标准 MCP 调用边缘与物联网硬件设备能力。
将多个MCP服务器能力聚合成少量固定工具供AI调用
帮助管理 GPU 资源、虚拟机生命周期、账单、SSH 密钥与环境配置。
为 AI 代理的工具调用做策略审查与安全代理,保护系统凭证不暴露。