尧图网站建设 尧图网络
  • 首页
  • 关于我们
  • 服务项目
  • 案例展示
  • 建站流程
  • 资讯中心
  • 联系我们
首页/资讯中心/详情

Claude Tool Search 深度拆解:延迟加载、工具引用和与 Codex 对比

Claude Tool Search 深度拆解:延迟加载、工具引用和与 Codex 对比
📅 发布时间:2026/7/24 15:44:37

Claude Tool Search 解决的不是一个小开关问题,而是 Agent 工具规模化后的上下文管理问题。

导语

Agent 接的工具越多,能力看起来越强。但过了某个点,工具本身会变成噪音。

一个 coding agent 同时接 GitHub、Slack、Jira、Sentry、Grafana、PagerDuty,再加几个内部 MCP server,很容易暴露上百个工具。传统做法是启动会话时把所有工具 schema 全塞进上下文。

这当然直接,但代价也很硬:

  • 工具描述吃掉大量 token。
  • 工具越多,模型越容易选错。
  • 每一轮对话都背着一堆没用到的 schema 走。

Tool Search 要解决的就是这个问题。它不是让 Agent 变聪明的魔法,而是把工具组织方式从“全量塞进上下文”改成“先建索引,再按需加载”。

图:工具上下文从全量堆叠变成可检索目录

Upfront Loading 的问题:工具列表会挤占思考空间

没有 Tool Search 时,工具调用的机制很朴素:请求里带上所有工具定义,模型在上下文里直接看到它们。

工具少时没问题。十几个工具以内,模型通常还能稳定选择。到了几十个甚至上百个工具,schema 本身就会变成负担。

{ "tools": [ { "name": "get_weather", "description": "Get current weather for a location", "input_schema": { "type": "object", "properties": { "location": { "type": "string" } } } }, { "name": "search_github_issues", "description": "Search GitHub issues by keyword and repository", "input_schema": { "...": "..." } } ] }

这类 upfront loading 有两个隐藏成本。

第一是 token 成本。工具定义越详细,消耗越明显。

第二是选择成本。模型在一堆相似工具之间做决策,错误率会上升。很多 MCP server 的工具名还很接近,例如 list、get、search、create、update 一组一组出现,语义差异全靠 description 解释。

所以问题不是“模型不知道怎么调用工具”,而是它一开始看到的工具太多。

API 层机制:defer_loading只是入口

Tool Search 的第一步,是给工具加defer_loading: true。

{ "name": "search_github_issues", "description": "Search GitHub issues by keyword and repository", "input_schema": { "...": "..." }, "defer_loading": true }

这个字段经常被误解。它不是说客户端不用发送完整工具定义。相反,请求里的tools数组仍然要包含完整定义,因为 API 后面需要用它展开引用。

defer_loading控制的是另一件事:这个工具的完整 schema 是否进入模型初始可见的工具上下文。

也就是说:

状态客户端请求里有没有完整定义模型初始上下文里有没有完整 schema
普通工具有有
defer 工具有没有
搜索命中后有被展开注入

这个设计保留了协议完整性,也避免模型一开始被大量工具淹没。

搜索链路:从server_tool_use到tool_reference

当 Claude 判断当前任务需要某个延迟加载的工具时,它不会直接发普通tool_use。它会先发起一次服务端工具搜索,也就是server_tool_use。

{ "type": "server_tool_use", "id": "srvtoolu_01ABC123", "name": "tool_search_tool_regex", "input": { "pattern": "weather" } }

这不是客户端自己的 MCP tool,也不应该由客户端返回普通tool_result。它是 Anthropic API 侧的 server-side tool。

搜索完成后,响应里会出现tool_search_tool_result,里面放的是tool_reference:

{ "type": "tool_search_tool_result", "tool_use_id": "srvtoolu_01ABC123", "content": { "type": "tool_search_tool_search_result", "tool_references": [ { "type": "tool_reference", "tool_name": "get_weather" } ] } }

注意,这里返回的不是完整 schema,而是指针。

API 会拿这个指针去请求里的tools数组里找同名定义,然后自动展开。展开之后,Claude 才能发正式的普通tool_use。

完整流程可以概括为:

图:Tool Search 先返回工具引用,再展开完整 schema 发起正式调用

这套链路的关键,是工具 schema 仍然存在,但不再默认占据模型注意力。

图:延迟加载的关键不是丢掉 schema,而是把 schema 放到需要时再展开

Claude Code 层:ENABLE_TOOL_SEARCH控制策略

API 层提供机制,Claude Code 决定什么时候用。

实际使用中,最常见的控制入口是ENABLE_TOOL_SEARCH:

值行为
未设置官方 endpoint 上默认启用;代理或部分平台可能回退为 upfront
true强制启用 Tool Search
false禁用,所有工具 upfront 加载
auto工具定义超过上下文窗口一定比例时启用
auto:N自定义阈值,例如auto:5

工具少时,禁用 Tool Search 可能更快,因为少了一轮搜索。工具多时,延迟加载更有价值。

还有一个容易被忽略的配置是alwaysLoad。它允许某个 MCP server 的工具始终 upfront 加载:

{ "mcpServers": { "essential-tools": { "type": "stdio", "command": "npx", "args": ["-y", "@org/essential-mcp"], "alwaysLoad": true } } }

这个配置适合少量高频工具。用多了,就会把 Tool Search 的收益抵消掉。

代理兼容性:协议化能力的代价

Claude 的方案很协议化。server_tool_use、tool_reference、tool_search_tool_result都是特殊 block。

好处是行为清晰,API 可以统一展开引用。

坏处也明显:中间代理必须认识这些 block。

如果ANTHROPIC_BASE_URL指向 one-api、LiteLLM 或公司内部网关,而代理只支持text、tool_use、tool_result这些常见类型,就可能出现:

  • unknown content block type
  • 代理把未知 block 丢掉
  • 转 OpenAI 格式时无法表达
  • 下一轮上下文断裂

这也是很多配置工具提供“启用 Tool Search”开关的原因。它本质上是在“更省上下文”和“更兼容代理”之间做选择。

工具描述怎么写,决定能不能被搜到

Tool Search 让工具变成索引,但索引质量取决于工具名和描述。

模糊描述很危险:

{ "name": "mcp__github__tool1", "description": "Does GitHub stuff" }

这类工具很难在 issue、PR、workflow、release 等具体任务里被正确召回。

更好的描述要包含领域、动作、触发场景和关键参数:

{ "name": "mcp__github__create_issue", "description": "Create a new issue in a GitHub repository. Use this when the user wants to report a bug, request a feature, or track a task. Requires owner, repo, title, and optional body, labels, assignees." }

写工具描述时,可以抓住五点:

  1. 工具名带领域和动作,例如github_create_issue。
  2. description 说明触发场景,而不只是动作。
  3. input_schema 的字段也写清楚含义。
  4. 一个工具只做一件事,避免万能工具。
  5. 高频工具少量alwaysLoad,长尾工具交给搜索。

未来工具描述会越来越像搜索文档。写得越具体,Agent 越容易在正确任务里找到它。

Codex 也在走同一条路

Tool Search 不是 Claude 独有方向。

OpenAI Codex CLI 和 OpenAI Agents SDK 也在解决同一个问题:工具 schema 太多,不能全部塞进上下文。

差别在实现层级。

维度Claude Tool SearchOpenAI Codex / Agents SDK
延迟加载字段defer_loading: truedefer_loading: true
搜索能力tool_search_tool_regex
/tool_search_tool_bm25tool_search
/ToolSearchTool()
实现位置Messages API 协议层Responses API / SDK / CLI 层
特殊结构server_tool_use
、tool_reference、tool_search_tool_result主要沿 function calling 体系
组织方式MCP server +alwaysLoadtool_namespace

Claude 把能力下沉到 API block。只要客户端和代理支持这些 block,不同客户端可以获得较一致的行为。

OpenAI 更像框架层能力。它对现有 function calling 基础设施侵入更小,但一致性更多依赖 SDK 和运行时实现。

所以正确结论不是“Claude 有,OpenAI 没有”,而是:当工具数量超过上下文舒适承载范围时,延迟加载加运行时搜索正在成为共识。

更大的趋势:能力不该全塞进上下文

Tool Search 只是工具层的一个实现。往上看,skills、agents、memory 也会遇到同样的问题。

当一个 Agent 拥有几十个 skills,每个 skill 都有 system prompt、examples、专属工具和约束时,全部 upfront 加载同样会把上下文挤满。

更合理的架构是:

用户需求 -> 意图识别 / 搜索 -> 加载相关能力 -> 执行任务

工具层叫 Tool Search,技能层可能叫 progressive skill loading,记忆层可能叫 memory retrieval。本质都是同一句话:

能力规模超过上下文容量后,能力必须被组织成索引,而不是全部放进模型短期记忆里。

结语

Tool Search 的核心价值,不是省几个 token,也不是多一个环境变量。

它把 Agent 的工具上下文从仓库模式改成索引模式。仓库模式要求模型一开始看见所有工具;索引模式允许模型先理解任务,再按需找到工具。

MCP 生态越膨胀,这个差异越关键。未来写工具的人,不只是写函数接口,也是在写可被 Agent 搜到、选对、调用稳的能力说明。

这会成为 Agent 工程里很基础的一门手艺。

推荐阅读

Agent 评测别把「调优 Loop」 跑成「刷题 Loop」

代码不是 AI 编程的最终资产,AI Coding 真正该存的是 Checkpoint

长程 Agent 的三类硬约束

企业 Agent 为什么难落地:组织、数据和流程才是真卡点

Agent Memory 架构拆解:别再把向量库当唯一记忆系统

相关新闻

  • 企业大模型技能中心架构设计与实战经验
  • LTC4366IDDB-2#TRPBF在高压DC配电与航空电子中的浪涌保护应用
  • C++ STL std::accumulate进阶:超越求和,掌握折叠操作与泛型聚合

最新新闻

  • 2026厦门电气回收优质商家推荐,变频器回收,电控箱回收,接触器回收,配电柜回收,高压熔断器回收优质商家优选指南! - 品牌商讯
  • 2026 重庆闲置名牌包包变现实操攻略|易奢福多门店分布,正规回收 LV 香奈儿爱马仕 - 遁地的c
  • 宿州防水补漏公司推荐:这几家正规靠谱机构合集(2026 年 7 月份实测) - 吉林同城获客
  • Java应用API版本管理与网关部署策略:2026年实践指南
  • 沧州代理记账公司怎么选?先看专业度、政策熟悉度和交付标准 - 中国品牌企业推荐网
  • C++实现摄影测量光束法平差:从共线方程到三维重建

日新闻

  • 武汉卡地亚LOVE钻戒与钻石项链回收变现攻略|多家门店行情参考 - 大牌深度测评
  • 2026年无锡地区健康管理如何考量?四家机构业务体系概览
  • 2026图片去水印软件哪个好用 手机电脑免费工具盘点 - 免费软件工具方法教程

周新闻

  • SaaS软件行业GEO实践:AI搜索时代的品牌可见性与获客新路径
  • 什么是PCTFE?医药高端包装的“防潮王牌“材料
  • 【JVM调优实战】16-可视化利器-JConsole-VisualVM-JMC

月新闻

  • 2026年6月公司网站搭建最新热门渠道测评:四大低成本/零代码平台对比+避坑
  • 【Linux】Linux arm 编译QT程序,出现expected “}“报错
  • 【MATLAB例程】四基站二维AOA定位与距离辅助增强对比仿真。基于角度观测和测距修正的固定目标平面定位精度分析

关于尧图

  • 公司简介
  • 团队介绍
  • 企业文化
  • 荣誉资质

服务项目

  • 定制开发
  • 电商建站
  • UI 设计
  • 运维服务

快速链接

  • 案例展示
  • 建站流程
  • 常见问题
  • 资讯中心

联系方式

  • 📍北京市朝阳区互联网产业园 A 座 10 层
  • 📞400-888-8888
  • ✉️contact@rkmt.cn
  • 🕐周一至周日 9:00-21:00

© 2024 北京尧图网络科技有限公司 版权所有 | 京 ICP 备 XXXXXXXX 号