$ loading_
通过 LiteLLM 代理统一调用大模型、向量、绘图与管理能力。
复制安装指令,让 AI 自动完成配置 · 推荐新手
"litellm-mcp" 暂无可直接复制的安装信息,请查看页面文档或源码仓库。
使用 litellm-mcp 调用 LiteLLM 代理中的一个聊天模型,输入“请用三点总结 MCP 工具的作用”,返回简洁中文回答。
一段由代理模型生成的结构化简短回复。
使用 litellm-mcp 为以下文本生成 embedding:"客户反馈:希望搜索更快、答案更准",并返回向量结果及模型信息。
文本对应的向量表示,以及所用嵌入模型的基本信息。
使用 litellm-mcp 调用图片生成能力,创建一张“极简风格的未来办公桌插画,蓝白配色,等距视角”的图片,并返回图片链接或结果。
一张根据提示生成的图片,附带可访问的结果链接或元数据。
通过 MCP 将大模型请求转发到兼容 OpenAI 的服务提供商。
为多后端 MCP 服务提供代理与按需加载,降低工具定义带来的令牌消耗。
通过多模型与可视化工具,用自然语言完成软件开发、调试与成本管理。
作为 MCP 服务器与代理压缩提示词和回复,降低大模型令牌成本。
将摘要、代码补丁等低风险任务委派给低成本模型并由主代理复核。
通过 MCP 协议统一接入 LightRAG,便于 AI 工具进行检索与知识问答集成。