构建智能体挑战重重：三大架构层破局，四问评估助力生产部署
如今，企业中几乎任何持有信用卡的人都能在一个下午内构建出智能体，工具触手可得，部署也十分轻松。然而，真正困难的是达成预期效果。高德纳（Gartner）预测，到2027年，超过40%的智能体AI项目将被取消。同时，欧盟《人工智能法案》第14条关于高风险AI系统需人工监督的要求将于2026年8月2日生效。
智能体AI能否投入生产，关键因素并非模型、框架或用例，而是智能体背后的基础设施，这也是构建智能体的人以往从未考虑过的部分。企业为保持竞争力，竞相部署智能体AI，这往往导致压力测试被忽视。每个智能体项目都应由三位高管从不同角度进行审查。首席信息安全官（CISO）关注是否存在风险暴露；首席财务官（CFO）关心是否超支；首席AI官则在意是否实现了价值。
作为专注于AI治理的产品负责人，在客户环境中发现了一种普遍模式。有三个架构层可以回答上述三位高管的问题，分别是身份验证、可观测性和成本优化。接下来，将详细介绍每个架构层，并为下一次生产推进提供四个问题的诊断建议。
为何AI试点项目会停滞不前
智能体并非只是更快的聊天机器人，它能串联起数十个步骤，调用外部工具，在不同会话中保持状态，并触发现实世界的行动。大多数智能体继承了部署者的凭证，以机器速度运行，却对每一步操作的后果缺乏理解。这种不匹配并非人类能力不足，而是时间跨度的差异。工程师可能需要数小时来评估数据库的变更，而智能体在人们审查第一个变更之前，就已经触发了上百个变更。传统的审计日志只能记录请求和响应，无法捕捉到这种模式。一旦出现问题，损失的不仅仅是事件本身，还可能导致数月的部署停滞。风险委员会会暂停试点项目，原本期望的生产力提升也无法实现，但财务部门仍需支付API费用。这三个架构层将决定部署能否突破这种困境，每一层都对应着构建智能体的人从未问过的问题。
第一层：非人类参与者的身份验证
从身份验证开始。常见的失败情况是，拥有广泛API访问权限的产品经理创建了一个智能体，该智能体继承了所有凭证，并以机器速度在未被盘点的系统中运行。这种情况的规模远超大多数团队的想象。行业身份与访问管理（IAM）研究表明，非人类身份与人类账户的比例超过100:1，2026年的一些调查显示这一比例高达144:1。2026年5月的《身份差距报告》发现，三分之二的非人类身份未被发现和管理。智能体正从依赖“所有者”权限的人类身份，转变为独立的主体。它们有明确的目的，经过加密验证，且每次只执行一项任务。谷歌基于SPIFFE构建的智能体身份就是一个早期的例子。
在生产环境中，身份验证应具备三个特性。首先，为每个智能体任务颁发单独的凭证；其次，令牌的有效期以分钟到小时计算，而非数周；最后，权限范围应缩小到任务所需的特定工具和数据类别，任务完成后凭证自动撤销。如果一个静态凭证可用于50个不同任务且有效期长达一周，那这并非真正的智能体AI，而是增加了额外步骤的服务账户。
第二层：满足三位高管需求的可观测性
身份验证控制着智能体的操作权限，而可观测性则展示了智能体的实际行为。通过一个监测层，提供三种视角。
- 安全视角：传统日志记录请求和响应，假设每个日志事件对应一次人类操作。但智能体的工作单元是一系列步骤，如选择工具、调用工具、读取结果、决定下一步等。在生产环境中，应将每一步操作记录为可独立查询的审计对象，以便了解调用了哪些工具、访问了哪些数据、应用了什么策略，以及智能体做出下一步决策的依据。这也是欧盟《人工智能法案》第14条对生产环境监督的要求。
- 业务成果视角：审计对象可以回答CISO的问题，但首席AI官关注的是智能体是否达成了部署目标，还是在无关任务上浪费计算资源。一个智能体可能进行了200次工具调用，生成了清晰的审计日志，但却没有产生任何实际成果。它可能陷入了某个子目标的循环中。因此，需要根据声明的业务目的观察每一步操作，包括任务完成率、子目标一致性和进度标记，就像对非人类工作者进行项目管理一样。
- 成本视角：同样的逐步骤监测可以生成成本数据，包括每一步的令牌数量、每次调用的模型、每轮对话的上下文大小以及下游工具调用的成本。如果没有这些数据，后续的成本优化将无从下手。在安全日志和账单上，忙碌的智能体和高效的智能体可能看起来一样，但只有当三个视角基于同一监测层时，才能发现它们的差异。
第三层：成本优化
成本优化是架构的回报所在。高德纳2026年3月的分析显示，智能体工作负载的每个任务的令牌成本是标准聊天机器人的5到30倍。FinOps基金会2026年的《FinOps现状报告》发现，73%的组织超出了最初的AI预算预测。有三种常见的失败模式导致成本超支。
- 使用错误的模型：智能体通常默认使用最强大的模型，但对于一些任务，较小的模型也能达到相同的质量，如转录总结、JSON格式化、工单分类等。ICLR2025会议上的RouteLLM论文表明，智能路由可以在不影响常规工作质量的前提下，将大型语言模型（LLM）的推理成本降低40%到80%。因此，应将模型选择从开发者层面提升到策略层面。
- 陷入循环：如果无人监控，智能体可能会无限制地消耗资源。2026年一个广为人知的事件中，一个LangChain多智能体系统陷入无限循环长达11天，产生了47,000美元的API费用。通过设置每会话令牌上限、检测循环的断路器（标记与先前调用高度相似的工具调用）以及每日硬性上限，可以在产生高额费用之前避免这种情况。在部署中，采用了三层成本结构来捕捉大部分失控情况：每日50美元的软警报、每日100美元的硬性切断（强制切换到更便宜的模型）以及每月1,000美元的上限（需要经理批准）。
- 重复支付相同的上下文：智能体的每一步操作都会重新发送累积的系统提示和对话历史。到第20步时，智能体已经为相同的上下文支付了20次费用。Vantage2026年对智能体编码会话的分析发现，重新发送的上下文约占智能体平均账单的62%，是智能体工作负载中最大的优化目标。有三种方法可以解决这个问题：在阶段边界进行锚定总结、使用滑动上下文窗口以及在网关使用供应商原生的提示缓存。尽管Anthropic对缓存输入的收费约为基础费用的10%，Gemini为10%到25%，OpenAI为50%，但大多数智能体仍然完全忽略了缓存。控制智能体成本意味着要了解每个调用、每个模型、每个令牌的归属以及业务目的，并据此采取行动。没有业务归属的令牌计数只能告诉你消耗了多少资源，却无法说明资源的使用方向。
部署速度的回报
这三个架构层对应着三位高管的问题。身份验证限制了智能体的操作权限，可观测性展示了其实际行为，成本优化则控制了其资源消耗。有人认为治理会减慢部署速度，但这只有在治理作为审批环节被添加到缺乏可观测性和按任务身份验证的智能体上时才成立。如果从一开始就将治理融入架构，这种观点就是错误的。正确的治理仍然需要付出一定成本，如按任务颁发凭证会增加每次工具调用的工作量，可观测性基础设施会增加计算资源消耗。但关键在于，这种成本是否低于不进行治理的代价。
这三个架构层相互关联。没有可观测性的身份验证只是理论上的，没有成本控制的可观测性只是描述性的，而没有底层的身份验证，成本控制就会缺乏上下文，只能被动应对。当三者结合时，可以在数周内完成治理审查，而不是数月。根据经验，拥有这种基础设施的组织在竞争对手完成一次治理审查的时间内，可以将六个工作流投入生产。智能体AI的真正投资回报率（ROI）并非单个工作流的运行速度，而是团队在一年内能够安全地将多少工作流投入生产。
下一次试点前的四个问题
在将任何智能体推向生产之前，可以用以下四个问题进行评估：
- 身份验证：对于生产中的每个智能体，能否明确其当前使用的按任务凭证，以及单个令牌的最大权限范围？
- 可观测性：对于任何智能体会话，能否从同一监测层生成三种视角的数据，包括每一步的审计对象、任务完成率与无关任务的比例，以及按模型和上下文大小细分的每一步成本？
- 成本优化：平台是否能自动根据模型进行路由、限制失控循环，并避免每一步都重新发送相同的上下文？
- 部署速度：在当前环境中，一个新的智能体工作流从获批试点到投入生产需要多长时间？如果答案是数月，那么上述架构可能存在不足。高德纳的40%预测可能就与下一次试点相关。