1. 项目缘起当企业智能体需要“云上大脑”时最近几年企业内部的自动化流程和智能体应用越来越普及。从自动处理工单的客服机器人到分析内部文档的知识库助手再到协调各部门资源的调度系统这些智能体已经成为提升运营效率的关键。然而一个普遍的瓶颈也随之浮现企业内部智能体的能力往往受限于本地的算力、数据和模型。当遇到需要复杂推理、调用庞大模型库或处理海量公开信息时本地部署就显得力不从心。于是一个自然的想法是让企业内部的智能体我们称之为“企业端智能体”能够安全地调用云端强大的模型和服务我们称之为“云端智能体”实现协同工作。这听起来很美但实操起来全是“雷区”。直接把企业内部数据、业务逻辑甚至决策过程抛给云端无异于将商业机密置于风险之中。数据隐私、合规要求、网络延迟、成本控制每一个都是需要严肃对待的挑战。正是在这种背景下一种名为SplitAgent的架构设计思路进入了我们的视野。它不是一个具体的软件产品而是一套隐私保护的分布式架构范式专门用于解决企业端与云端智能体安全、高效协作的问题。其核心思想不是简单地将任务“外包”给云而是通过精妙的任务拆分、流程编排和隐私计算技术在“不解密”或“不暴露”核心数据与逻辑的前提下利用云端强大的计算资源。简单来说就是让企业智能体在保有“控制权”和“隐私”的同时获得一个“云上外挂大脑”。2. SplitAgent 架构的核心设计哲学拆分、隔离与协同SplitAgent 架构的命名直指其核心——“拆分”。但这种拆分不是随意的而是基于对任务、数据和权限的深刻理解进行有策略的分离。它的设计哲学可以概括为三点最小化暴露、最大化利用、流程化协同。2.1 最小化暴露隐私计算的实践这是 SplitAgent 的基石。其目标是在整个协作流程中确保企业端的敏感数据如客户信息、财务数据、内部流程逻辑和云端强大的模型/服务之间存在一道“单向玻璃”。云端可以看到需要它处理的问题但看不到问题的完整上下文和原始数据。实现这一点通常依赖于几种技术的组合任务抽象与脱敏企业端智能体在向云端发起请求前必须对原始任务进行预处理。例如一个分析销售趋势的请求不会直接发送包含客户姓名、订单金额的原始表格而是将其抽象为“对过去Q3季度产品线A在华东区的周销量序列进行周期性分析和未来4周预测”这样的描述。更进一步可以对序列数据进行差分隐私处理或同态加密使得云端模型能在加密数据上直接运算。功能化接口云端智能体不直接接触业务逻辑而是通过一系列定义清晰、功能单一的“服务接口”被调用。比如一个“文本情感分析接口”输入是一段脱敏后的评论文本输出是情感极性分数和关键词。企业端智能体负责组合调用这些接口来完成复杂任务。安全飞地Confidential Computing对于计算过程本身也需要保护的情况可以利用支持可信执行环境TEE如Intel SGX, AMD SEV的云服务器。企业端的加密数据在TEE内部解密、计算结果再加密传出确保云端操作系统和运维人员也无法窥探内存中的数据。2.2 最大化利用云端资源的按需调度拆分之后云端角色从“全知全能的执行者”转变为“专业、高效的计算资源池”。企业端智能体根据任务的不同阶段动态、按需地调度这些资源。模型即服务MaaS直接调用云端托管的超大语言模型LLM、视觉模型或多模态模型用于需要深厚知识或强大生成能力的环节。专用计算服务调用云端的数据库分析服务、科学计算集群、渲染农场等处理本地无法胜任的密集型计算。信息检索与合成委托云端智能体在合规的公开数据源、知识库中进行检索、信息验证和内容摘要将结果返回给企业端做最终决策。2.3 流程化协同智能体间的“握手协议”企业端和云端智能体不是主从关系而是对等协作关系。它们之间需要一套清晰的“握手协议”或“协作流程引擎”来定义交互。这通常包括意图分解企业端智能体将高层业务目标如“生成一份竞争对手分析报告”分解为一系列可执行子任务。路由决策对于每个子任务判断其隐私等级、计算需求决定是在本地执行还是路由到哪个云端服务或者需要组合多个服务。上下文管理在跨智能体的多轮交互中如何安全地传递和维持有限的、必要的上下文而不泄露全局状态是一个关键设计点。通常企业端智能体扮演“指挥中心”的角色持有完整的上下文只向云端发送当前步骤所需的“上下文切片”。结果聚合与验证云端返回的结果需要被企业端智能体接收、解析并可能与其他结果聚合最终生成对业务目标的响应。同时企业端需要对云端结果的可靠性和安全性进行基础验证。3. 一个实战场景智能合同审查助手的 SplitAgent 实现为了更具体地理解 SplitAgent我们来看一个典型的金融或法务场景智能合同审查助手。3.1 传统云端方案的痛点如果直接将合同文本上传至一个云端AI进行审查风险极高。合同中的交易金额、双方公司名称、特殊条款、商业机密全部暴露。即使服务商承诺保密从合规如GDPR、数据安全法和企业风险控制角度这也是不可接受的。3.2 基于 SplitAgent 的改造方案我们设计一个由企业端智能体Local Agent和多个云端服务Cloud Services协同工作的系统。第一步本地预处理与任务拆分企业端智能体执行合同解析与结构化Local Agent 在本地使用轻量级模型或规则将PDF/Word合同解析为结构化文本块如“标题”、“缔约方”、“付款条款”、“保密条款”、“违约责任”等。敏感信息脱敏自动识别并替换合同中的实体信息。例如将“甲方[真实公司A]”替换为“甲方[ENTITY_01]”将“总金额10,000,000美元”替换为“总金额[AMOUNT_01]”。生成一个“映射表”安全存储在本地同时生成一份“脱敏版合同”。审查清单生成根据合同类型如采购、投资、雇佣Local Agent 从本地知识库加载对应的风险审查清单。例如对于“付款条款”清单可能包括“是否明确支付货币”“是否约定逾期付款利息”“付款前提条件是否清晰”任务路由Local Agent 分析每个审查项。将任务分为三类A类本地执行基于简单规则的检查如“合同是否双方签章齐全”通过解析是否有签章页判断。B类需云端语义分析需要深度理解文本语义的检查如“审查‘违约责任’条款是否存在对甲方显失公平的表述”。C类需云端知识检索需要结合外部知识的检查如“本合同中引用的‘《XX行业标准2023》’是否是最新版本”。第二步隐私保护下的云端协同对于B类任务Local Agent 将脱敏后的“违约责任”条款文本连同审查指令“识别是否存在显失公平的表述重点注意责任限制、赔偿上限、单方面解除权等”发送给云端法律条款分析模型。该模型只看到脱敏文本和指令返回分析结果“发现一处可能显失公平条款中约定乙方违约需赔偿甲方全部损失但未对甲方违约设定对等赔偿责任。”对于C类任务Local Agent 将查询“《XX行业标准2023》最新版本号及发布日期”发送给云端专业信息检索服务。该服务在公开的法律法规、标准数据库中进行查询返回结果“最新版本为《XX行业标准20232024年修订版》发布日期2024年3月1日。”第三步本地结果聚合、再识别与报告生成Local Agent 接收所有云端返回的结果。利用本地的“映射表”将结果中的脱敏标识如[ENTITY_01]替换回原始敏感信息如真实公司名这个过程称为“再识别”。综合本地规则检查结果、云端语义分析结果和知识检索结果生成完整的《合同审查报告》。报告会高亮风险点并附上条款原文已还原、风险分析和修改建议。整个过程中完整的合同原文、双方真实信息、映射表从未离开企业内网。云端模型和服务只处理了脱敏后的文本片段和具体的查询指令。实操心得在这个场景中脱敏策略的粒度是关键。过度脱敏如把整个条款变成一个代号会导致云端模型无法理解语义脱敏不足则泄露信息。我们的经验是对实体公司、人名、金额、日期进行替换保留完整的法律句式结构和逻辑关系能在隐私和效用间取得很好平衡。同时本地必须保留强大的结构化解析和任务编排能力这是SplitAgent架构中企业端的核心价值所在。4. SplitAgent 架构的关键技术组件与选型考量构建一个健壮的 SplitAgent 系统需要仔细选择和整合一系列技术组件。以下是一个非穷尽的列表和选型时的思考点。4.1 企业端智能体Local Agent核心职责任务分解、上下文管理、敏感数据处理、路由决策、结果聚合。技术选型框架LangChain、LlamaIndex 等智能体框架非常适合在此处作为“大脑”因为它们内置了任务规划、工具调用的抽象。也可以基于 Autogen、CrewAI 等多智能体框架来编排更复杂的本地子智能体。运行时考虑到对内部系统的集成一个常驻的、轻量级的 Python/Node.js/Go 服务是常见选择。Docker 容器化部署便于管理。关键能力必须拥有强大的文本处理管道用于脱敏/再识别和规则引擎用于初始任务分类和简单审查。4.2 隐私处理层核心职责数据脱敏、匿名化、加密。技术选型脱敏库使用 Presidio微软开源、FPE格式保留加密算法库或自定义正则规则集。Presidio 的优势在于内置了多种实体识别器NER和匿名化器可扩展性强。加密对于需要加密传输和计算的数据考虑同态加密库如 SEAL, TenSEAL。但需注意其巨大的计算开销通常只用于极端敏感的小规模数值计算。可信执行环境TEE如果云端计算必须接触敏感数据且性能要求高租用支持 Intel SGX 或 AMD SEV 的云实例是终极方案。但开发复杂且需要信任CPU厂商的硬件安全机制。4.3 云端服务抽象与网关核心职责统一接入各类云端AI服务管理API密钥、限流、降级、监控。技术选型API网关Kong、Apache APISIX、Tyk。用于路由、认证、速率限制、日志记录。为每个云端服务OpenAI GPT, Anthropic Claude, 谷歌Vertex AI 以及各种专用模型API配置独立的 upstream。适配器模式编写统一的“AI服务适配器”将不同云服务商千差万别的API请求格式、响应格式、错误码转换为企业内部智能体理解的统一接口。这大大降低了 Local Agent 的复杂度。服务网格在更复杂的微服务架构中Istio、Linkerd 可以用于管理服务间通信的安全mTLS和可观测性。4.4 编排与状态管理核心职责管理跨本地和云端的复杂、长时间运行的工作流。技术选型工作流引擎Camunda、Temporal、Airflow。这些工具擅长管理有状态、可恢复、可能失败的长流程。例如合同审查的整个流程解析-脱敏-拆分-调用多个云服务-聚合-生成报告可以建模为一个工作流。当某个云端调用失败时工作流引擎可以自动重试或转入人工处理。消息队列RabbitMQ、Apache Kafka、NATS。用于异步解耦 Local Agent 和云端服务调用提高系统的响应性和可靠性。Local Agent 将任务发布到队列由专门的“云端调用器”消费者处理并回写结果。4.5 监控、审计与安全核心职责记录所有跨边界的数据流动监控系统健康满足合规审计要求。技术选型结构化日志所有操作尤其是涉及数据发送到云端的操作必须记录详尽的审计日志时间戳、操作类型、数据哈希而非原文、目标云服务、处理结果、用户/系统标识。使用 ELK StackElasticsearch, Logstash, Kibana或 Loki/Grafana 进行集中管理和分析。链路追踪集成 OpenTelemetry为每一次“企业端-云端”协作请求生成唯一的追踪ID贯穿所有服务便于在出现问题时进行端到端的故障排查。安全策略在网关上实施严格的出口策略仅允许 Local Agent 访问预先批准的白名单云服务域名和IP。所有通信强制使用 TLS 1.3。选型避坑指南初期切勿追求“大而全”的技术栈。从一个最核心的、隐私风险最高的场景如上述合同审查开始技术栈可以极其简单一个Python FastAPI服务Local Agent 简单脱敏 一个API网关Kong 直接调用1-2个云端模型API。验证模式可行后再逐步引入工作流引擎、更复杂的脱敏策略和监控体系。过早引入 Temporal 或全链路 OpenTelemetry 会让项目复杂度飙升偏离验证架构核心价值的初衷。5. 实施路径与阶段演进策略将 SplitAgent 从概念落地到生产系统建议采用分阶段、迭代推进的策略每一步都交付明确价值并控制风险。阶段一概念验证与最小可行产品目标在一个封闭的、非核心的业务场景中验证 SplitAgent 协作模式的有效性。场景选择例如内部IT知识库问答。企业端智能体处理员工自然语言提问当问题涉及公开技术文档如某软件最新版特性时将问题脱敏移除内部项目代号、IP地址后发送给云端LLM获取答案再与本地知识库答案整合。技术栈单机脚本Local Agent原型、简单的关键词替换脱敏、直接调用 OpenAI API。成功标准流程能跑通且通过人工检查确认脱敏有效未泄露敏感信息。阶段二核心场景深化与架构规范化目标将已验证的模式应用到1-2个核心业务场景并搭建初步的规范化架构。场景升级承接上述的“智能合同审查”场景。架构升级Local Agent 升级为常驻微服务具备任务队列和状态管理。引入 Presidio 进行标准化、可配置的脱敏。部署 API 网关如 Kong统一管理对多个云端AI服务OpenAI, Claude, 国内大模型的访问。建立基础的审计日志系统。成功标准核心场景的审查准确率和隐私安全达到生产要求系统具备基本的可维护性和可观测性。阶段三平台化与能力扩展目标将 SplitAgent 能力产品化供企业内部多个业务团队使用。工作开发可视化的工作流编排器让业务人员能通过拖拽方式配置属于自己的“企业端-云端”协作流程。建立隐私计算沙箱集成 TEE 实验环境用于处理金融建模、医疗数据分析等超敏感计算任务。构建全面的监控告警和成本分析仪表盘跟踪每个流程、每个部门的云端资源使用情况和费用。制定企业级的《SplitAgent 接入规范》包括数据脱敏标准、云服务选型指南、安全审计要求等。成功标准多业务线成功接入并稳定运行拥有清晰的运营、安全和成本管控体系。阶段四生态化与智能演进目标让系统更智能、更自适应。探索方向智能路由优化利用机器学习模型根据历史数据预测不同子任务在哪个云端服务上执行成本效益最高、延迟最低实现动态路由。联邦学习集成在确保数据不出域的前提下让企业端智能体参与云端模型的联邦学习微调使云端模型能更好地适应特定行业的术语和模式。主动合规检查系统能自动根据数据流动记录生成符合 GDPR、数据安全法等法规要求的合规报告草案。6. 潜在挑战与应对之道没有一种架构是银弹SplitAgent 在带来巨大价值的同时也伴随着一系列挑战。6.1 性能与延迟的权衡挑战每一次企业端-云端的交互都引入网络往返延迟。对于需要多轮交互的复杂任务累积延迟可能影响用户体验。 应对异步化设计默认采用异步通信。企业端发起请求后立即返回通过回调或让用户轮询结果。这对于合同审查、报告生成等非实时场景完全可行。预测预加载对于常见任务流可以预测下一步可能调用的云端服务提前建立连接或预加载资源。边缘计算融合将部分轻量级云端模型或服务部署在更靠近企业数据中心的边缘云节点大幅降低网络延迟。6.2 成本控制与优化挑战云端大模型API调用费用不菲无节制的使用会导致成本失控。 应对精细化计量与配额为每个部门、每个流程设置API调用配额和预算告警。缓存策略对云端返回的、具有通用性的结果如法规查询结果、通用知识问答建立缓存避免重复查询。服务降级策略当成本优先时可以配置路由规则将非关键任务从昂贵的顶级模型如GPT-4路由到性价比更高的模型如Claude Haiku或国内优质模型。6.3 系统复杂性与运维负担挑战SplitAgent 引入了分布式系统的所有复杂性网络分区、服务降级、最终一致性、分布式事务等。 应对坚守“简单至上”初期原则如避坑指南所述初期用最简单的方式验证核心价值。拥抱成熟的云原生技术栈使用 Kubernetes 管理服务部署利用其健康检查、自愈、弹性伸缩能力。使用成熟的监控体系Prometheus, Grafana。清晰的故障隔离边界设计上确保云端服务的故障不会导致企业端核心业务的中断。Local Agent 必须具备降级逻辑当云端不可用时能基于本地规则提供有限但可用的服务。6.4 技术债与长期演进挑战AI 领域技术迭代极快今天选择的模型API明天可能版本升级或价格变动。脱敏规则也需要随业务变化不断调整。 应对抽象抽象再抽象通过“适配器”模式将具体云服务API隔离开。通过“可插拔处理器”模式来管理脱敏规则。确保核心业务逻辑与这些易变的技术细节解耦。建立技术雷达与评估流程定期评估新的隐私计算技术、新的云端AI服务以小规模实验的方式验证其价值并规划平滑的迁移路径。SplitAgent 架构代表的是一种务实的、面向未来的企业智能化思路。它承认云端智能的压倒性优势但绝不以牺牲数据主权和隐私安全为代价。通过精心的架构设计它在这两者之间架起了一座坚固而灵活的桥梁。实施这一架构的过程本身就是对企业数据治理能力、系统架构能力和AI工程化能力的一次全面升级。这条路并不轻松充满了技术细节和权衡折衷但对于那些将数据视为核心资产、同时又渴望拥抱智能化的企业而言这或许是当前最值得深入探索和投入的方向。从我个人的实践经验来看成功的关键不在于追求技术的尖端而在于对业务场景的深刻理解以及将复杂问题持续拆解、分步实施的耐心与定力。