$ loading_
提供本地优先的大模型路由与调用,保障敏感数据私有可控。
复制安装指令,让 AI 自动完成配置 · 推荐新手
"llm-localfirst" 暂无可直接复制的安装信息,请查看页面文档或源码仓库。
请根据以下要求为 llm-localfirst 设计路由策略:包含内部代码、客户数据的问题必须优先走本地模型;只有低敏感度的通用问答才允许转到云端模型。请给出规则示例和调用建议。
一套清晰的路由规则,说明哪些请求走本地模型、哪些可转云端,以及对应调用建议。
使用 llm-localfirst 完成这段包含机密业务术语的文本摘要需求,并确保内容只由本地模型处理,不允许任何失败后自动降级到外部服务。请输出安全调用方案。
一个强调失败即关闭、禁止外发数据的本地补全调用方案,可直接用于敏感文本处理。
请说明如何用 llm-localfirst 实现管理者-执行者模式:由一个模型负责拆解任务和选择路由,另一个本地模型负责执行具体生成。请给出适合 MCP 客户端集成的流程。
一个面向 MCP 集成的委派流程,包含任务拆解、路由决策、本地执行和结果返回步骤。
在多家大模型与 MCP 服务间智能路由请求,并兼顾本地隐私记忆与嵌入处理。
在本地离线运行 Llama 模型,安全私密地完成各类 AI 助手任务。
将摘要、代码补丁等低风险任务委派给低成本模型并由主代理复核。
统一管理本地大模型运行时,完成发现、运维检查与推理调用。
智能分配本地与远程模型处理编程任务,并支持基准测试与代码检索。
统一接入多家大模型与密钥路由,便于本地调用和多模型协作讨论。