Agent路由为什么要分两层？规则路由＜1ms零成本 + LLM Fallback兜底设计

专栏第13篇：上一篇讲了企业级RAG系统的全链路架构。一个真实的智能问答系统，用户的问题类型是多样的：有的查知识库，有的调工具，有的需要联网搜索。怎么把一个问题精准分配到正确的处理通道，是路由层的核心职责。这篇文章把两层路由的设计思路和实现细节完整拆解出来。

目录

• 一、为什么需要路由？
• 二、三通道互斥设计
• 三、第一层：规则路由（零成本）
• 四、第二层：LLM路由（Fallback）
• 五、查询重写：先消解再路由
• 六、完整处理流水线
• 七、踩过的3个坑
• 八、总结

一、为什么需要路由？

一个生产级智能问答系统，收到的问题远不止"查一下知识库"这一种类型：

• “今天天气怎么样？” → 需要调天气工具获取实时数据
• “最新行业动态有哪些？” → 需要联网搜索实时资讯
• “怎么设置自动备份？” → 需要知识库检索文档

如果把所有问题都走知识库，工具查询的结果就会漏；如果每次都让 LLM 决策，延迟和成本都不可接受。

路由层的本质：在正确的成本下，把问题分配到正确的处理通道。

二、三通道互斥设计

系统把所有处理路径抽象为三个互斥通道，每次请求只走其中一个：