$ loading_
在 Arm64 云实例上完成大模型推理、压测与性能结果服务。
复制安装指令，让 AI 自动完成配置 · 推荐新手
"ArmBench MCP Server" 暂无可直接复制的安装信息，请查看页面文档或源码仓库。
请使用 ArmBench MCP Server，在 Arm64 云实例上对比 Llama 3 8B 与 Mistral 7B 的推理性能，输出吞吐量、首 token 延迟、总延迟和资源占用汇总表。
一份模型性能对比表，包含关键推理指标与资源占用数据。
请基于同一台 Arm64 实例，分别测试开启和关闭 KleidiAI 优化时的大模型推理表现，并总结性能提升百分比与适用场景。
一份优化前后性能分析，说明提升幅度及推荐配置建议。
请使用 ArmBench MCP Server 运行一次大模型基准测试，并通过 MCP 兼容接口返回可供外部系统读取的结果结构示例。
一份结构化测试结果示例，适合被其他工具或系统集成调用。
帮助开发者完成代码迁移、性能优化，并获得 Arm 架构开发指导。
为 Arm 架构开发、迁移与性能优化提供检索、分析和测试工具。
提供带算术与问候示例的 MCP 服务，便于在 Amazon Bedrock AgentCore 上完成 OAuth 部署与集成测试。
将非关键大模型任务转交给自控模型处理，节省高端模型配额与成本。
让 AI 通过标准接口查询并分析 Prometheus 监控指标，辅助排障与运维决策。
通过统一接口执行文件、数据库、网页与系统运维等基础设施操作。