很多人说:"大模型这么强,直接让它帮我干活不就行了?"真正试过的人都知道,事情没那么简单。
我刚开始用大模型那会儿,也有过这种幻觉。
实际上呢,大模型在大众面前火起来至少3年多了,而从年初的openclaw出现才给人眼前一亮的感觉,掀起又一波养虾潮流。
问题不在模型不够聪明,而在于:它只是一个被困在对话框里的脑子。
今天这篇文章,就想把这件事讲清楚:为什么大模型不能直接干活?我们常说的 Agent,到底给它加了什么?
一、一个反直觉的现象
ChatGPT、Claude、Kimi 这些对话产品,看起来好像什么都能答。但如果你让它"去数据库中查询一下本月的销售额",它只能告诉你步骤,不能真的打开你的电脑去执行SQL。
这不是因为它不够强,而是它的设计本质决定的:大模型只接受文本输入、也只输出文本。
它能说,但不能做;能建议,但不能执行。
二、大模型的真实能力边界
我们不妨把大模型想象成一个非常聪明的实习生:
他能读资料、写方案、改文案、做推理; 但他没有记忆,昨天聊过的内容今天就忘了; 他不能上网查你公司的实时数据; 他也不能登录系统、发邮件、改数据库; 他甚至不知道自己该先做什么、后做什么。
用技术语言说,LLM 的核心是一个“下一个词预测器”:它根据你给的上下文,生成概率最高的下一个词、下一段文字。它所有的能力,都局限在“输入文本 → 输出文本”这个框里。
这不是缺陷,而是它的能力边界。真正要做成一件事,必须有人给它补齐三样东西:上下文、工具、执行循环。
三、Agent = LLM + 上下文 + 工具
这就是 Agent 要做的事情。
李博杰在《深入理解 AI Agent》里给了一个核心等式:
Agent = LLM + 上下文(Context) + 工具(Tools)
再叠加记忆、规划、执行循环,才构成一个能自主干活的智能体。我们可以把它理解成:

Agent 核心架构:LLM + 上下文 + 工具
- LLM 是大脑
:负责理解、推理、做决策; - 上下文是手边便利贴
:记录你这次任务的目标、历史对话、当前看到的结果; - 工具是双手
:让模型能搜索网页、查数据库、调用 API、写文件、发邮件。
但最关键的不是这三个零件本身,而是把它们“拼起来跑起来”的那层工程代码。书里管它叫 Harness(驾驭工程)。模型大家都能接,但拼法稳不稳、循环会不会死循环、出错能不能恢复,才是壁垒。
LLM、上下文、工具就构成了最基本的agent,当然Harness不仅仅有这些,现在逐渐衍生出更多的范式,这些我们放在后面的文章去讲。其实你会发现,现在这些工程化的能力对大模型的提升中扮演着很重要的角色,没有这些,即便模型能力再强,它也不能帮你干活。越来越多的人开始认为,未来 Agent 的竞争力不在模型,而在“怎么把它拼稳”。
四、一次任务是怎么跑起来的
明白了结构,再看一次完整任务。

一次 Agent 任务的执行循环
用户给出一个目标,比如“帮我查一下今天上海到北京的机票,选最便宜的,把结果发给我”。
Agent 会这样循环:
- 观察
:LLM 读到用户目标,也看到当前上下文; - 思考
:判断自己缺什么信息,决定下一步——调用“查机票”工具; - 行动
:工具返回航班列表,写回上下文; - 再思考
:LLM 看到结果,决定下一步——调用“发邮件/发消息”工具; - 结束或继续
:任务完成就回复用户,没完成就回到第 2 步。
一个最小可用的 Agent,几十行代码就能跑。但它必须有这个“观察 → 思考 → 行动 → 再看结果”的回路。没有这个回路,它就不是 Agent,只是一个聊天接口。这个可以参见上一篇文章:100行Python代码,搭一个能干活的AI Agent。
五、澄清两个常见误解
误解一:Agent 就是“套壳”
如果只是接个大模型 API,前面套个聊天界面,那确实是套壳。真正的 Agent 必须有工具调用和自主循环。套壳是转发对话,Agent 是组织行动。
误解二:Agent 必须很重、很复杂
不需要。一个能调用一个工具、跑一个循环的脚本,就是 Agent。复杂的是你要它稳定、安全、可扩展,而不是“有没有”的问题。
六、写在最后
大模型越来越强,但模型再强,也改变不了它被困在对话框里的本质。
Agent 不是让模型变得更聪明,而是给聪明的大脑配上身体、记忆和工作流程。对企业落地来说,“怎么把模型拼进现有系统、让它稳定地干活”,比“模型参数多大”重要得多。
这也是为什么我想写写这个系列:不是讲模型内部怎么算,而是从工程师和普通人的视角,去认识一下 Agent ,接下来我会分几篇文章,把我学到的和理解中的 agent 写出来,希望和大家一起交流学习。
参考(最近爆火,推荐大家看一下)
李博杰《深入理解 AI Agent》https://bojieli.github.io/ai-agent-book
本文首发于微信公众号 BigDataLab,转载请注明出处。
更多 AI / 大模型实战干货,欢迎微信搜索关注「BigDataLab」,或 点此回看原文。