这类教程最值得先看的不是它列了多少框架、多少项目而是能不能帮你把“大模型基础”、“提示词工程”、“Agent智能体”这几个听起来很玄乎的概念拆解成能动手、能验证、能落地的具体步骤。很多人一上来就扎进各种框架和项目里结果连大模型到底怎么处理你的输入、提示词为什么能影响输出、Agent和普通API调用有什么区别都没搞清楚最后只能跟着代码跑一遍换个场景就不知道怎么用了。这篇文章会围绕“从入门到落地”这个核心把整个学习路径重新梳理一遍。我不会按部就班地讲理论而是按照一个开发者真正上手时的顺序来组织先搞懂大模型最基本的交互方式基础再学会如何有效地给它下指令提示词工程然后理解如何让大模型具备“思考-行动”的循环能力Agent/ReAct最后才是选择框架和进行项目实战。整个过程会强调“手把手”的实操感告诉你每一步的关键判断点在哪里以及最常见的弯路怎么避开。1. 先拆解“大模型基础”它到底是如何与你对话的很多人把大模型基础等同于学习Transformer架构或者背诵参数量这对入门和落地来说方向就偏了。对于开发者尤其是刚开始接触的程序员大模型基础的核心是理解它作为一个“黑盒”服务输入什么、输出什么、以及为什么输出会不稳定。1.1 理解核心交互模式Completion 与 Chat Completion目前主流的大模型如GPT系列、Claude、国内各大厂商的模型提供两种最基础的接口Completion补全和 Chat Completion对话补全。这是你所有工作的起点。Completion补全你给模型一段开头的文本它帮你把这段文本写完。比如你输入“中国的首都是”它输出“北京”。这种模式更接近传统的语言模型适合续写、生成等任务。Chat Completion对话补全你给模型一个由多条消息组成的对话历史模型根据这个上下文生成下一条回复。消息通常有角色如system系统指令、user用户输入、assistant助手回复。这是目前构建应用最主流的模式因为它能通过system指令更稳定地控制模型的行为。实操第一步不用任何框架先用官方SDK或最原始的HTTP请求调用一次模型。不要一开始就陷入LangChain、LlamaIndex等框架的选择困难中。我建议你直接用OpenAI官方Python SDK或其他你目标平台的SDK写一个最简单的对话程序。目的是感受最原始的输入输出。# 示例使用OpenAI API需安装openai库并设置API_KEY from openai import OpenAI client OpenAI(api_keyyour-api-key) response client.chat.completions.create( modelgpt-3.5-turbo, # 或你使用的其他模型 messages[ {role: system, content: 你是一个有帮助的助手。}, {role: user, content: 你好请介绍一下你自己。} ], temperature0.7, # 关键参数控制随机性 max_tokens500 # 关键参数控制回复长度 ) print(response.choices[0].message.content)跑通这个例子你就完成了与大模型交互的“原子操作”。接下来所有复杂的框架和Agent都是在这个基础上进行的封装和流程编排。1.2 掌握影响输出的几个关键“旋钮”模型输出不可控那是因为你没调对“旋钮”。除了上面代码里的temperature和max_tokens还有几个你必须理解的参数temperature温度范围通常在0到2之间。值越低如0.1输出越确定、保守、可重复值越高如1.0输出越随机、有创造性。对于需要事实准确性的任务如问答、总结建议用低温0.1-0.3对于创意生成如写故事、想点子可以用高温0.7-1.0。max_tokens最大令牌数限制模型单次回复的长度。注意这个数字是输入和输出令牌的总和上限对于Chat接口通常指输出上限。设置太小会导致回答被截断。top_p核采样另一种控制随机性的方式。通常与temperature二选一即可不需要同时调整。stop停止序列指定一个字符串列表当模型生成包含这些字符串时停止。可用于控制输出格式比如生成列表时设置stop[“\n\n”]可能在两个项目后停止。经验之谈不要一上来就想着调参优化。先用默认参数temperature1 max_tokens根据需求设大点跑通你的流程。当发现输出不稳定时而答对时而答错时首先考虑优化提示词下一节讲如果还不行再尝试降低temperature来增加稳定性。1.3 认识模型的“能力边界”与“幻觉”这是大模型基础中最容易踩坑的部分。模型能力再强也有边界。知识截止日期每个模型都有训练数据截止日期如GPT-3.5-turbo是2024年7月。问它之后的事件它要么不知道要么开始“编造”。上下文长度模型能一次性处理的最大文本量如4K, 8K, 16K, 128K tokens。超过这个长度你需要自己设计文本切割和总结的流程。AI幻觉指模型生成的内容看似合理但事实上不正确或无法验证。这是大模型固有的缺陷无法根除只能缓解。如何应对幻觉在基础阶段就要建立这个意识永远不要完全信任模型的原始输出。对于关键事实日期、数据、引用必须要求模型提供可验证的来源例如“根据你提供的文档第X段”或者在你自己的应用层设计校验机制。这也是为什么后续的Agent智能体需要“工具调用”能力——让模型去查询数据库、搜索网络而不是依赖自己的记忆。2. 深入“提示词工程”如何让模型听懂并执行你的复杂指令提示词工程不是“魔法咒语”而是一门让人类意图与模型能力对齐的“工程学”。它的核心是结构化、清晰化、示例化。2.1 从“角色-任务-格式”三角结构开始一个健壮的提示词通常包含三个核心要素角色Role告诉模型它应该扮演谁。“你是一位经验丰富的Python软件工程师。”这能激活模型内部与该角色相关的知识模式和表达风格。任务Task清晰、无歧义地描述你要它做什么。避免模糊指令。将“帮我写点代码”改为“请编写一个Python函数接收一个字符串列表返回一个字典键为字符串值为该字符串在列表中出现的次数。”格式Format明确指定你期望的输出格式。“请以JSON格式输出包含’code’和’explanation’两个字段。”或者“请分点列出每点不超过一句话。”一个综合示例你是一位专业的科技文章翻译助手。你的任务是将用户提供的英文技术博客摘要翻译成中文并保持技术术语的准确性。输出格式要求第一行是中文摘要第二行是“关键词”后跟3-5个用逗号分隔的中文关键词。这个提示词结构清晰模型很难跑偏。2.2 进阶技巧少样本学习与思维链当零样本Zero-Shot提示效果不佳时就需要升级技巧。少样本学习Few-Shot Learning在提示词中给出一两个输入输出的例子。这是引导模型理解复杂格式或特殊任务最有效的方法之一。任务将用户情绪分类为积极、消极或中性。 示例 输入“这个产品太棒了完全超出了我的预期” 输出积极 输入“等了三天还没发货客服也找不到人。” 输出消极 输入“请查询一下我的订单状态订单号是123456。” 输出中性 现在请分类 输入“根据说明书操作功能正常。” 输出思维链Chain-of-Thought, CoT对于需要推理、数学计算或多步骤的问题在提示词中要求模型“逐步思考”。可以显式要求“请一步步推理”也可以通过少样本示例来演示推理过程。问题小明有5个苹果他吃了2个又买了3个最后有几个苹果 思考一开始有5个。吃了2个剩下5-23个。又买了3个最后有336个。 答案6实测建议写提示词时把自己想象成一个在给实习生布置任务的老板。指令必须具体、可检查、无二义性。写完提示词后自己先读一遍看看能否根据它唯一地确定一个合格的输出应该长什么样。2.3 系统指令 vs. 用户消息权限与持久化在Chat Completion接口中system消息和user消息有重要区别system用于设定对话的全局背景、行为准则和风格。它通常在整个对话中持续生效。把长期、核心的约束放在这里比如“你是一个只回复代码的助手不进行任何解释。”user代表单轮的用户输入。用于提出具体问题或请求。在构建多轮对话应用时一个常见策略是在对话开始时发送一条强力的system指令然后在后续每一轮中只发送user和历史的assistant消息。这样可以确保模型的行为基线不会漂移。3. 解密“Agent智能体”与“ReAct”让模型学会使用工具并自我反思Agent智能体是大模型应用从“问答机”升级为“自动化执行器”的关键。而ReAct是其中一种经典且重要的范式。3.1 Agent的核心思想大模型作为“大脑”你可以把Agent理解为一个系统大模型作为决策中心大脑它可以根据目标、分析当前情况包括历史记录和工具执行结果然后决定下一步是“思考”还是“调用某个工具行动”。与直接调用API的关键区别在于直接调用用户输入 - 模型输出 - 结束。Agent调用用户输入 - 模型思考 - [可能调用工具A] - 观察结果 - 模型再思考 - [可能调用工具B] - 观察结果 - … - 模型给出最终答案。3.2 ReAct范式详解推理与行动的协同ReActReasoning Acting是一种具体的Agent实现模式其核心流程可以概括为Thought - Action - Observation - Thought - Action - … - Final AnswerThought思考模型分析当前状况决定下一步该做什么。例如“用户想查天气我需要知道城市名。我应该先问用户所在城市。”Action行动模型决定执行一个具体的“动作”。这通常是一个格式化的调用如调用一个工具SearchCalculator或者向用户提问AskUser。Observation观察工具执行的结果返回给模型。例如搜索工具返回了“北京今天晴25度”。模型基于新的观察进入下一个Thought循环直到它认为可以给出最终答案。为什么ReAct重要因为它将“内在推理”和“外在行动”显式地结合在了一起。模型在行动前会“自言自语”地推理这让我们能窥见其决策过程便于调试同时也常常能带来更准确的结果因为它迫使模型一步步计划。3.3 动手构建一个最简单的ReAct Agent我们不用复杂框架用最基础的代码逻辑来理解这个过程。假设我们给模型两个工具一个搜索模拟、一个计算器。import re # 模拟的工具函数 def search_tool(query: str) - str: # 这里本应调用搜索引擎API我们模拟返回 knowledge_base { 苹果价格: 苹果每斤5元, 香蕉价格: 香蕉每斤3元, 北京天气: 北京今天晴天25摄氏度 } return knowledge_base.get(query, f“未找到关于‘{query}’的信息。”) def calculator_tool(expression: str) - str: try: # 安全警告实际应用中绝不要用eval这里仅为演示 result eval(expression) return str(result) except: return “计算表达式无效。” # ReAct循环的核心逻辑 def simple_react_agent(user_query: str, max_steps5): prompt f“”” 你是一个智能助手可以调用工具。你可以使用的工具有 1. Search[query]: 用于搜索事实信息。输入是一个查询字符串。 2. Calculator[expression]: 用于计算数学表达式。输入是一个字符串表达式。 请严格按照以下格式回应 Thought: 你的思考过程 Action: 要调用的工具格式为 ToolName[Input] Observation: 工具返回的结果 从Thought开始。如果认为可以给出最终答案了就输出 Final Answer: 你的最终答案 现在开始。 用户问题{user_query} “”” history prompt for step in range(max_steps): # 1. 调用大模型获取它的“思考”和“行动” response client.chat.completions.create( model“gpt-3.5-turbo”, messages[{“role”: “user”, “content”: history}], temperature0, stop[“\nObservation:”] # 让它停在Observation之前方便我们解析Action ) agent_response response.choices[0].message.content history agent_response # 2. 解析出Action action_match re.search(r“Action:\s*(\w)\[(.*?)\]”, agent_response, re.DOTALL) if action_match: tool_name action_match.group(1) tool_input action_match.group(2).strip() print(f“[Step {step1}] Thought/Action: {agent_response}”) # 3. 执行工具获取Observation if tool_name “Search”: obs search_tool(tool_input) elif tool_name “Calculator”: obs calculator_tool(tool_input) else: obs f“未知工具{tool_name}” print(f“[Step {step1}] Observation: {obs}”) # 4. 将Observation加入历史进入下一轮循环 history f“\nObservation: {obs}\n” else: # 没有Action可能是直接给出了Final Answer print(f“[Final] {agent_response}”) # 尝试提取最终答案 final_match re.search(r“Final Answer:\s*(.*)”, agent_response, re.DOTALL) if final_match: return final_match.group(1).strip() else: return agent_response # 直接返回模型输出 return “达到最大步数仍未完成。” # 测试 if __name__ “__main__”: answer simple_react_agent(“苹果每斤5元我买3斤香蕉每斤3元我买2斤一共多少钱”) print(f“\n最终答案{answer}”)运行这段代码你会在控制台看到类似以下的输出这就是ReAct的思维轨迹[Step 1] Thought/Action: Thought: 用户想知道苹果和香蕉的总价。我需要先查出苹果和香蕉的单价然后计算总价。 Action: Search[苹果价格] [Step 1] Observation: 苹果每斤5元 [Step 2] Thought/Action: Thought: 我知道了苹果是5元一斤。现在需要香蕉的价格。 Action: Search[香蕉价格] [Step 2] Observation: 香蕉每斤3元 [Step 3] Thought/Action: Thought: 现在苹果5元一斤买3斤香蕉3元一斤买2斤。需要计算总价(5*3) (3*2)。 Action: Calculator[5*3 3*2] [Step 3] Observation: 21 [Step 4] Thought/Action: Thought: 计算结果是21元。现在可以给出最终答案了。 Final Answer: 购买3斤苹果和2斤香蕉总共需要21元。 最终答案购买3斤苹果和2斤香蕉总共需要21元。通过这个简单的例子你就能透彻理解Agent和ReAct是如何工作的模型通过思考决定行动根据行动结果再思考最终整合信息给出答案。所有复杂的Agent框架如LangChain、AutoGen都是在自动化、优化和扩展这个核心循环。4. 框架选择与项目实战如何将知识串联落地理解了基础、提示词和Agent原理后框架的选择就不再是盲目的了。框架的作用是提供一套工具和模式帮你更高效、更可靠地构建基于大模型的应用。4.1 主流框架横向对比与选型建议不要被琳琅满目的框架迷惑。根据你的核心需求来选择框架核心特点适合场景新手友好度LangChain生态最丰富模块化设计提供大量Chain、Agent、Tool、Memory等组件。概念较多学习曲线较陡。快速构建复杂的、多步骤的、需要集成外部工具和数据的AI应用。是目前的“标准答案”之一。中/高需要时间理解其概念体系LlamaIndex专注于数据索引和检索。擅长将私有数据文档、数据库高效地接入大模型实现基于知识的问答RAG。你的核心需求是让模型查询你的内部文档、知识库。常与LangChain结合使用。中Semantic Kernel微软出品与.NET生态结合紧密也支持Python。强调“规划器”和“插件”的概念。你的技术栈主要是C#/.NET或者深度集成微软系产品如Azure OpenAI, Copilot。中AutoGen微软出品专注于多智能体对话。可以轻松创建多个角色不同的Agent让它们彼此对话协作完成任务。需要模拟多角色协作、辩论、评审等复杂交互场景的研究或应用。中/高直接调用SDK最轻量最直接。完全自主控制流程。任务非常简单或你对控制权有极高要求不想引入框架的复杂度和抽象层。高对于简单任务选型建议如果你是初学者想全面学习从LangChain开始。尽管它复杂但社区最活跃教程最多遇到的问题基本都能找到答案。理解了LangChain再看其他框架会很容易。如果你的核心需求是查询公司文档重点学习LlamaIndex并结合LangChain使用。如果你想快速实现一个多AI协作的场景看看AutoGen。如果你只是做一个简单的聊天机器人或内容生成直接使用官方SDK可能更简单快捷。4.2 以LangChain为例重构我们的ReAct Agent用LangChain实现之前的简单ReAct Agent代码会更清晰、更易于扩展。# 首先安装pip install langchain-openai from langchain_openai import ChatOpenAI from langchain.agents import Tool, AgentExecutor, create_react_agent from langchain_core.prompts import PromptTemplate # 1. 定义工具和之前一样 def search_func(query: str) - str: knowledge_base {“苹果价格”: “苹果每斤5元”, “香蕉价格”: “香蕉每斤3元”} return knowledge_base.get(query, f“未找到信息{query}”) def calculator_func(expression: str) - str: try: return str(eval(expression)) except: return “计算错误。” # 将函数包装成LangChain Tool对象 tools [ Tool(name“Search”, funcsearch_func, description“用于查询商品价格等信息。”), Tool(name“Calculator”, funccalculator_func, description“用于计算数学表达式。”) ] # 2. 初始化大模型 llm ChatOpenAI(model“gpt-3.5-turbo”, temperature0, api_key“your-key”) # 3. 使用LangChain内置的ReAct提示词模板 prompt create_react_agent(llmllm, toolstools).agent.prompt # 你也可以自定义PromptTemplate来获得完全控制 # 4. 创建Agent执行器 agent_executor AgentExecutor(agentcreate_react_agent(llm, tools, prompt), toolstools, verboseTrue, handle_parsing_errorsTrue) # 5. 运行 result agent_executor.invoke({“input”: “苹果每斤5元我买3斤香蕉每斤3元我买2斤一共多少钱”}) print(result[“output”])运行这段代码设置verboseTrue你会看到LangChain自动打印出详细的Thought/Action/Observation步骤和我们手写的逻辑一致但更加标准化和健壮比如内置了错误处理。框架带来的好处标准化提供了统一的Tool、Agent、Chain抽象代码更易读、易维护。功能丰富内置了记忆Memory、文档加载器、文本分割器、向量数据库接口等大量组件。省心处理了复杂的解析、错误重试、流式输出等边缘情况。4.3 项目实战思路从一个点子到可运行系统假设我们要做一个“智能旅行规划助手”它结合了Agent、工具调用和RAG检索增强生成。第一步需求拆解输入用户目的地、时间、预算、兴趣。输出详细的行程计划。核心能力需要查询实时信息天气、票价、检索旅行攻略知识库、进行计算预算分配、生成结构化文本。第二步技术选型大模型GPT-4或国内同等能力模型。框架LangChain主框架 LlamaIndex处理本地旅行攻略PDF。工具搜索工具SerpAPI等、计算器、天气API、航班/酒店查询API模拟。第三步构建流程数据准备用LlamaIndex将你的旅行攻略PDF、Markdown文档加载、分割并存入向量数据库如Chroma。工具定义用LangChain定义好搜索、计算、天气、行程查询等工具函数。提示词设计设计一个强大的system提示词定义Agent的角色资深旅行规划师、输出格式按天分点包含交通、住宿、景点、餐饮、预算。构建Agent使用LangChain的create_react_agent或更高级的create_openai_tools_agent将模型、提示词、工具组合起来。集成RAG在Agent的某个环节比如当用户问“XX景点有什么好玩的”不是让模型凭空想象而是让Agent调用一个“检索工具”这个工具的本质是去向量数据库搜索相关的攻略片段并将片段作为上下文提供给模型来生成答案。测试与迭代用不同的用户输入测试观察Agent的思考链verboseTrue调整提示词或工具描述直到它能稳定地规划出合理行程。第四步生产化考虑稳定性为API调用增加重试机制和超时设置。成本监控Token使用量对长上下文进行优化如摘要。用户体验将流式输出Streaming接入前端让用户看到生成过程。评估如何评估生成的行程质量可以设计一些自动化检查点如预算是否超支、时间是否冲突但最终仍需人工审核。通过这样一个完整的项目闭环你就把大模型基础、提示词工程、Agent智能体、框架使用全部串联起来了。这才是“从入门到落地”的真实路径。5. 避坑指南与持续学习路线最后分享一些我踩过坑后总结的经验以及如何规划后续学习。5.1 新手最容易掉的五个坑忽视提示词质量把一切问题归咎于模型能力。首先优化你的提示词用上角色、任务、格式和少样本示例大部分基础问题都能解决。过度依赖框架忽视底层原理在没弄懂直接API调用和ReAct基本循环前不要一头扎进LangChain的复杂文档。先用手写简单Agent理解本质再用框架提升效率。对“幻觉”没有防范在涉及事实、数据、引用的场景中必须设计校验或溯源机制。要么让模型调用工具获取实时/准确数据要么要求其输出引用来源如文档片段。忽略上下文长度限制盲目将超长文本扔给模型导致截断或性能下降。对于长文档处理必须设计“索引-检索-生成”的RAG流程只将相关片段送入上下文。不做成本与性能评估GPT-4效果好但贵且慢GPT-3.5快且便宜但能力稍弱。根据场景选模型。对于简单分类、格式化任务3.5可能就够了。同时监控Token消耗优化提示词以减少不必要的长度。5.2 学习资源与下一步方向官方文档是第一选择OpenAI、 Anthropic、 国内大模型厂商的API文档和最佳实践指南。深入框架吃透LangChain的核心概念Model I/O, Retrieval, Chains, Agents, Memory。它的官方教程和Cookbook非常实用。专精RAG如果你要做知识库应用LlamaIndex的官方文档和论文《RAG Survey》是必读的。关注开源模型与本地部署随着Llama、Qwen、DeepSeek等开源模型能力提升学习如何使用Ollama、vLLM、LM Studio等工具在本地或私有环境部署和调用模型是降低成本、保障数据隐私的重要方向。学习评估与优化如何定量评估你的AI应用效果了解RAGAS、TruLens等评估框架学习通过提示词压缩、思维树ToT、自洽性Self-Consistency等高级技术优化效果。这条路没有捷径但方向对了就少走弯路。核心心法就是从最简单的接口调用开始建立直观感受然后深入提示词学会控制模型接着理解Agent赋予模型行动力最后利用框架工程化地构建复杂应用。每一步都动手写代码、看输出、调参数积累下来的才是真经验。 大模型应用开发实战：从基础交互到Agent智能体的完整学习路径
这类教程最值得先看的不是它列了多少框架、多少项目而是能不能帮你把“大模型基础”、“提示词工程”、“Agent智能体”这几个听起来很玄乎的概念拆解成能动手、能验证、能落地的具体步骤。很多人一上来就扎进各种框架和项目里结果连大模型到底怎么处理你的输入、提示词为什么能影响输出、Agent和普通API调用有什么区别都没搞清楚最后只能跟着代码跑一遍换个场景就不知道怎么用了。这篇文章会围绕“从入门到落地”这个核心把整个学习路径重新梳理一遍。我不会按部就班地讲理论而是按照一个开发者真正上手时的顺序来组织先搞懂大模型最基本的交互方式基础再学会如何有效地给它下指令提示词工程然后理解如何让大模型具备“思考-行动”的循环能力Agent/ReAct最后才是选择框架和进行项目实战。整个过程会强调“手把手”的实操感告诉你每一步的关键判断点在哪里以及最常见的弯路怎么避开。1. 先拆解“大模型基础”它到底是如何与你对话的很多人把大模型基础等同于学习Transformer架构或者背诵参数量这对入门和落地来说方向就偏了。对于开发者尤其是刚开始接触的程序员大模型基础的核心是理解它作为一个“黑盒”服务输入什么、输出什么、以及为什么输出会不稳定。1.1 理解核心交互模式Completion 与 Chat Completion目前主流的大模型如GPT系列、Claude、国内各大厂商的模型提供两种最基础的接口Completion补全和 Chat Completion对话补全。这是你所有工作的起点。Completion补全你给模型一段开头的文本它帮你把这段文本写完。比如你输入“中国的首都是”它输出“北京”。这种模式更接近传统的语言模型适合续写、生成等任务。Chat Completion对话补全你给模型一个由多条消息组成的对话历史模型根据这个上下文生成下一条回复。消息通常有角色如system系统指令、user用户输入、assistant助手回复。这是目前构建应用最主流的模式因为它能通过system指令更稳定地控制模型的行为。实操第一步不用任何框架先用官方SDK或最原始的HTTP请求调用一次模型。不要一开始就陷入LangChain、LlamaIndex等框架的选择困难中。我建议你直接用OpenAI官方Python SDK或其他你目标平台的SDK写一个最简单的对话程序。目的是感受最原始的输入输出。# 示例使用OpenAI API需安装openai库并设置API_KEY from openai import OpenAI client OpenAI(api_keyyour-api-key) response client.chat.completions.create( modelgpt-3.5-turbo, # 或你使用的其他模型 messages[ {role: system, content: 你是一个有帮助的助手。}, {role: user, content: 你好请介绍一下你自己。} ], temperature0.7, # 关键参数控制随机性 max_tokens500 # 关键参数控制回复长度 ) print(response.choices[0].message.content)跑通这个例子你就完成了与大模型交互的“原子操作”。接下来所有复杂的框架和Agent都是在这个基础上进行的封装和流程编排。1.2 掌握影响输出的几个关键“旋钮”模型输出不可控那是因为你没调对“旋钮”。除了上面代码里的temperature和max_tokens还有几个你必须理解的参数temperature温度范围通常在0到2之间。值越低如0.1输出越确定、保守、可重复值越高如1.0输出越随机、有创造性。对于需要事实准确性的任务如问答、总结建议用低温0.1-0.3对于创意生成如写故事、想点子可以用高温0.7-1.0。max_tokens最大令牌数限制模型单次回复的长度。注意这个数字是输入和输出令牌的总和上限对于Chat接口通常指输出上限。设置太小会导致回答被截断。top_p核采样另一种控制随机性的方式。通常与temperature二选一即可不需要同时调整。stop停止序列指定一个字符串列表当模型生成包含这些字符串时停止。可用于控制输出格式比如生成列表时设置stop[“\n\n”]可能在两个项目后停止。经验之谈不要一上来就想着调参优化。先用默认参数temperature1 max_tokens根据需求设大点跑通你的流程。当发现输出不稳定时而答对时而答错时首先考虑优化提示词下一节讲如果还不行再尝试降低temperature来增加稳定性。1.3 认识模型的“能力边界”与“幻觉”这是大模型基础中最容易踩坑的部分。模型能力再强也有边界。知识截止日期每个模型都有训练数据截止日期如GPT-3.5-turbo是2024年7月。问它之后的事件它要么不知道要么开始“编造”。上下文长度模型能一次性处理的最大文本量如4K, 8K, 16K, 128K tokens。超过这个长度你需要自己设计文本切割和总结的流程。AI幻觉指模型生成的内容看似合理但事实上不正确或无法验证。这是大模型固有的缺陷无法根除只能缓解。如何应对幻觉在基础阶段就要建立这个意识永远不要完全信任模型的原始输出。对于关键事实日期、数据、引用必须要求模型提供可验证的来源例如“根据你提供的文档第X段”或者在你自己的应用层设计校验机制。这也是为什么后续的Agent智能体需要“工具调用”能力——让模型去查询数据库、搜索网络而不是依赖自己的记忆。2. 深入“提示词工程”如何让模型听懂并执行你的复杂指令提示词工程不是“魔法咒语”而是一门让人类意图与模型能力对齐的“工程学”。它的核心是结构化、清晰化、示例化。2.1 从“角色-任务-格式”三角结构开始一个健壮的提示词通常包含三个核心要素角色Role告诉模型它应该扮演谁。“你是一位经验丰富的Python软件工程师。”这能激活模型内部与该角色相关的知识模式和表达风格。任务Task清晰、无歧义地描述你要它做什么。避免模糊指令。将“帮我写点代码”改为“请编写一个Python函数接收一个字符串列表返回一个字典键为字符串值为该字符串在列表中出现的次数。”格式Format明确指定你期望的输出格式。“请以JSON格式输出包含’code’和’explanation’两个字段。”或者“请分点列出每点不超过一句话。”一个综合示例你是一位专业的科技文章翻译助手。你的任务是将用户提供的英文技术博客摘要翻译成中文并保持技术术语的准确性。输出格式要求第一行是中文摘要第二行是“关键词”后跟3-5个用逗号分隔的中文关键词。这个提示词结构清晰模型很难跑偏。2.2 进阶技巧少样本学习与思维链当零样本Zero-Shot提示效果不佳时就需要升级技巧。少样本学习Few-Shot Learning在提示词中给出一两个输入输出的例子。这是引导模型理解复杂格式或特殊任务最有效的方法之一。任务将用户情绪分类为积极、消极或中性。 示例 输入“这个产品太棒了完全超出了我的预期” 输出积极 输入“等了三天还没发货客服也找不到人。” 输出消极 输入“请查询一下我的订单状态订单号是123456。” 输出中性 现在请分类 输入“根据说明书操作功能正常。” 输出思维链Chain-of-Thought, CoT对于需要推理、数学计算或多步骤的问题在提示词中要求模型“逐步思考”。可以显式要求“请一步步推理”也可以通过少样本示例来演示推理过程。问题小明有5个苹果他吃了2个又买了3个最后有几个苹果 思考一开始有5个。吃了2个剩下5-23个。又买了3个最后有336个。 答案6实测建议写提示词时把自己想象成一个在给实习生布置任务的老板。指令必须具体、可检查、无二义性。写完提示词后自己先读一遍看看能否根据它唯一地确定一个合格的输出应该长什么样。2.3 系统指令 vs. 用户消息权限与持久化在Chat Completion接口中system消息和user消息有重要区别system用于设定对话的全局背景、行为准则和风格。它通常在整个对话中持续生效。把长期、核心的约束放在这里比如“你是一个只回复代码的助手不进行任何解释。”user代表单轮的用户输入。用于提出具体问题或请求。在构建多轮对话应用时一个常见策略是在对话开始时发送一条强力的system指令然后在后续每一轮中只发送user和历史的assistant消息。这样可以确保模型的行为基线不会漂移。3. 解密“Agent智能体”与“ReAct”让模型学会使用工具并自我反思Agent智能体是大模型应用从“问答机”升级为“自动化执行器”的关键。而ReAct是其中一种经典且重要的范式。3.1 Agent的核心思想大模型作为“大脑”你可以把Agent理解为一个系统大模型作为决策中心大脑它可以根据目标、分析当前情况包括历史记录和工具执行结果然后决定下一步是“思考”还是“调用某个工具行动”。与直接调用API的关键区别在于直接调用用户输入 - 模型输出 - 结束。Agent调用用户输入 - 模型思考 - [可能调用工具A] - 观察结果 - 模型再思考 - [可能调用工具B] - 观察结果 - … - 模型给出最终答案。3.2 ReAct范式详解推理与行动的协同ReActReasoning Acting是一种具体的Agent实现模式其核心流程可以概括为Thought - Action - Observation - Thought - Action - … - Final AnswerThought思考模型分析当前状况决定下一步该做什么。例如“用户想查天气我需要知道城市名。我应该先问用户所在城市。”Action行动模型决定执行一个具体的“动作”。这通常是一个格式化的调用如调用一个工具SearchCalculator或者向用户提问AskUser。Observation观察工具执行的结果返回给模型。例如搜索工具返回了“北京今天晴25度”。模型基于新的观察进入下一个Thought循环直到它认为可以给出最终答案。为什么ReAct重要因为它将“内在推理”和“外在行动”显式地结合在了一起。模型在行动前会“自言自语”地推理这让我们能窥见其决策过程便于调试同时也常常能带来更准确的结果因为它迫使模型一步步计划。3.3 动手构建一个最简单的ReAct Agent我们不用复杂框架用最基础的代码逻辑来理解这个过程。假设我们给模型两个工具一个搜索模拟、一个计算器。import re # 模拟的工具函数 def search_tool(query: str) - str: # 这里本应调用搜索引擎API我们模拟返回 knowledge_base { 苹果价格: 苹果每斤5元, 香蕉价格: 香蕉每斤3元, 北京天气: 北京今天晴天25摄氏度 } return knowledge_base.get(query, f“未找到关于‘{query}’的信息。”) def calculator_tool(expression: str) - str: try: # 安全警告实际应用中绝不要用eval这里仅为演示 result eval(expression) return str(result) except: return “计算表达式无效。” # ReAct循环的核心逻辑 def simple_react_agent(user_query: str, max_steps5): prompt f“”” 你是一个智能助手可以调用工具。你可以使用的工具有 1. Search[query]: 用于搜索事实信息。输入是一个查询字符串。 2. Calculator[expression]: 用于计算数学表达式。输入是一个字符串表达式。 请严格按照以下格式回应 Thought: 你的思考过程 Action: 要调用的工具格式为 ToolName[Input] Observation: 工具返回的结果 从Thought开始。如果认为可以给出最终答案了就输出 Final Answer: 你的最终答案 现在开始。 用户问题{user_query} “”” history prompt for step in range(max_steps): # 1. 调用大模型获取它的“思考”和“行动” response client.chat.completions.create( model“gpt-3.5-turbo”, messages[{“role”: “user”, “content”: history}], temperature0, stop[“\nObservation:”] # 让它停在Observation之前方便我们解析Action ) agent_response response.choices[0].message.content history agent_response # 2. 解析出Action action_match re.search(r“Action:\s*(\w)\[(.*?)\]”, agent_response, re.DOTALL) if action_match: tool_name action_match.group(1) tool_input action_match.group(2).strip() print(f“[Step {step1}] Thought/Action: {agent_response}”) # 3. 执行工具获取Observation if tool_name “Search”: obs search_tool(tool_input) elif tool_name “Calculator”: obs calculator_tool(tool_input) else: obs f“未知工具{tool_name}” print(f“[Step {step1}] Observation: {obs}”) # 4. 将Observation加入历史进入下一轮循环 history f“\nObservation: {obs}\n” else: # 没有Action可能是直接给出了Final Answer print(f“[Final] {agent_response}”) # 尝试提取最终答案 final_match re.search(r“Final Answer:\s*(.*)”, agent_response, re.DOTALL) if final_match: return final_match.group(1).strip() else: return agent_response # 直接返回模型输出 return “达到最大步数仍未完成。” # 测试 if __name__ “__main__”: answer simple_react_agent(“苹果每斤5元我买3斤香蕉每斤3元我买2斤一共多少钱”) print(f“\n最终答案{answer}”)运行这段代码你会在控制台看到类似以下的输出这就是ReAct的思维轨迹[Step 1] Thought/Action: Thought: 用户想知道苹果和香蕉的总价。我需要先查出苹果和香蕉的单价然后计算总价。 Action: Search[苹果价格] [Step 1] Observation: 苹果每斤5元 [Step 2] Thought/Action: Thought: 我知道了苹果是5元一斤。现在需要香蕉的价格。 Action: Search[香蕉价格] [Step 2] Observation: 香蕉每斤3元 [Step 3] Thought/Action: Thought: 现在苹果5元一斤买3斤香蕉3元一斤买2斤。需要计算总价(5*3) (3*2)。 Action: Calculator[5*3 3*2] [Step 3] Observation: 21 [Step 4] Thought/Action: Thought: 计算结果是21元。现在可以给出最终答案了。 Final Answer: 购买3斤苹果和2斤香蕉总共需要21元。 最终答案购买3斤苹果和2斤香蕉总共需要21元。通过这个简单的例子你就能透彻理解Agent和ReAct是如何工作的模型通过思考决定行动根据行动结果再思考最终整合信息给出答案。所有复杂的Agent框架如LangChain、AutoGen都是在自动化、优化和扩展这个核心循环。4. 框架选择与项目实战如何将知识串联落地理解了基础、提示词和Agent原理后框架的选择就不再是盲目的了。框架的作用是提供一套工具和模式帮你更高效、更可靠地构建基于大模型的应用。4.1 主流框架横向对比与选型建议不要被琳琅满目的框架迷惑。根据你的核心需求来选择框架核心特点适合场景新手友好度LangChain生态最丰富模块化设计提供大量Chain、Agent、Tool、Memory等组件。概念较多学习曲线较陡。快速构建复杂的、多步骤的、需要集成外部工具和数据的AI应用。是目前的“标准答案”之一。中/高需要时间理解其概念体系LlamaIndex专注于数据索引和检索。擅长将私有数据文档、数据库高效地接入大模型实现基于知识的问答RAG。你的核心需求是让模型查询你的内部文档、知识库。常与LangChain结合使用。中Semantic Kernel微软出品与.NET生态结合紧密也支持Python。强调“规划器”和“插件”的概念。你的技术栈主要是C#/.NET或者深度集成微软系产品如Azure OpenAI, Copilot。中AutoGen微软出品专注于多智能体对话。可以轻松创建多个角色不同的Agent让它们彼此对话协作完成任务。需要模拟多角色协作、辩论、评审等复杂交互场景的研究或应用。中/高直接调用SDK最轻量最直接。完全自主控制流程。任务非常简单或你对控制权有极高要求不想引入框架的复杂度和抽象层。高对于简单任务选型建议如果你是初学者想全面学习从LangChain开始。尽管它复杂但社区最活跃教程最多遇到的问题基本都能找到答案。理解了LangChain再看其他框架会很容易。如果你的核心需求是查询公司文档重点学习LlamaIndex并结合LangChain使用。如果你想快速实现一个多AI协作的场景看看AutoGen。如果你只是做一个简单的聊天机器人或内容生成直接使用官方SDK可能更简单快捷。4.2 以LangChain为例重构我们的ReAct Agent用LangChain实现之前的简单ReAct Agent代码会更清晰、更易于扩展。# 首先安装pip install langchain-openai from langchain_openai import ChatOpenAI from langchain.agents import Tool, AgentExecutor, create_react_agent from langchain_core.prompts import PromptTemplate # 1. 定义工具和之前一样 def search_func(query: str) - str: knowledge_base {“苹果价格”: “苹果每斤5元”, “香蕉价格”: “香蕉每斤3元”} return knowledge_base.get(query, f“未找到信息{query}”) def calculator_func(expression: str) - str: try: return str(eval(expression)) except: return “计算错误。” # 将函数包装成LangChain Tool对象 tools [ Tool(name“Search”, funcsearch_func, description“用于查询商品价格等信息。”), Tool(name“Calculator”, funccalculator_func, description“用于计算数学表达式。”) ] # 2. 初始化大模型 llm ChatOpenAI(model“gpt-3.5-turbo”, temperature0, api_key“your-key”) # 3. 使用LangChain内置的ReAct提示词模板 prompt create_react_agent(llmllm, toolstools).agent.prompt # 你也可以自定义PromptTemplate来获得完全控制 # 4. 创建Agent执行器 agent_executor AgentExecutor(agentcreate_react_agent(llm, tools, prompt), toolstools, verboseTrue, handle_parsing_errorsTrue) # 5. 运行 result agent_executor.invoke({“input”: “苹果每斤5元我买3斤香蕉每斤3元我买2斤一共多少钱”}) print(result[“output”])运行这段代码设置verboseTrue你会看到LangChain自动打印出详细的Thought/Action/Observation步骤和我们手写的逻辑一致但更加标准化和健壮比如内置了错误处理。框架带来的好处标准化提供了统一的Tool、Agent、Chain抽象代码更易读、易维护。功能丰富内置了记忆Memory、文档加载器、文本分割器、向量数据库接口等大量组件。省心处理了复杂的解析、错误重试、流式输出等边缘情况。4.3 项目实战思路从一个点子到可运行系统假设我们要做一个“智能旅行规划助手”它结合了Agent、工具调用和RAG检索增强生成。第一步需求拆解输入用户目的地、时间、预算、兴趣。输出详细的行程计划。核心能力需要查询实时信息天气、票价、检索旅行攻略知识库、进行计算预算分配、生成结构化文本。第二步技术选型大模型GPT-4或国内同等能力模型。框架LangChain主框架 LlamaIndex处理本地旅行攻略PDF。工具搜索工具SerpAPI等、计算器、天气API、航班/酒店查询API模拟。第三步构建流程数据准备用LlamaIndex将你的旅行攻略PDF、Markdown文档加载、分割并存入向量数据库如Chroma。工具定义用LangChain定义好搜索、计算、天气、行程查询等工具函数。提示词设计设计一个强大的system提示词定义Agent的角色资深旅行规划师、输出格式按天分点包含交通、住宿、景点、餐饮、预算。构建Agent使用LangChain的create_react_agent或更高级的create_openai_tools_agent将模型、提示词、工具组合起来。集成RAG在Agent的某个环节比如当用户问“XX景点有什么好玩的”不是让模型凭空想象而是让Agent调用一个“检索工具”这个工具的本质是去向量数据库搜索相关的攻略片段并将片段作为上下文提供给模型来生成答案。测试与迭代用不同的用户输入测试观察Agent的思考链verboseTrue调整提示词或工具描述直到它能稳定地规划出合理行程。第四步生产化考虑稳定性为API调用增加重试机制和超时设置。成本监控Token使用量对长上下文进行优化如摘要。用户体验将流式输出Streaming接入前端让用户看到生成过程。评估如何评估生成的行程质量可以设计一些自动化检查点如预算是否超支、时间是否冲突但最终仍需人工审核。通过这样一个完整的项目闭环你就把大模型基础、提示词工程、Agent智能体、框架使用全部串联起来了。这才是“从入门到落地”的真实路径。5. 避坑指南与持续学习路线最后分享一些我踩过坑后总结的经验以及如何规划后续学习。5.1 新手最容易掉的五个坑忽视提示词质量把一切问题归咎于模型能力。首先优化你的提示词用上角色、任务、格式和少样本示例大部分基础问题都能解决。过度依赖框架忽视底层原理在没弄懂直接API调用和ReAct基本循环前不要一头扎进LangChain的复杂文档。先用手写简单Agent理解本质再用框架提升效率。对“幻觉”没有防范在涉及事实、数据、引用的场景中必须设计校验或溯源机制。要么让模型调用工具获取实时/准确数据要么要求其输出引用来源如文档片段。忽略上下文长度限制盲目将超长文本扔给模型导致截断或性能下降。对于长文档处理必须设计“索引-检索-生成”的RAG流程只将相关片段送入上下文。不做成本与性能评估GPT-4效果好但贵且慢GPT-3.5快且便宜但能力稍弱。根据场景选模型。对于简单分类、格式化任务3.5可能就够了。同时监控Token消耗优化提示词以减少不必要的长度。5.2 学习资源与下一步方向官方文档是第一选择OpenAI、 Anthropic、 国内大模型厂商的API文档和最佳实践指南。深入框架吃透LangChain的核心概念Model I/O, Retrieval, Chains, Agents, Memory。它的官方教程和Cookbook非常实用。专精RAG如果你要做知识库应用LlamaIndex的官方文档和论文《RAG Survey》是必读的。关注开源模型与本地部署随着Llama、Qwen、DeepSeek等开源模型能力提升学习如何使用Ollama、vLLM、LM Studio等工具在本地或私有环境部署和调用模型是降低成本、保障数据隐私的重要方向。学习评估与优化如何定量评估你的AI应用效果了解RAGAS、TruLens等评估框架学习通过提示词压缩、思维树ToT、自洽性Self-Consistency等高级技术优化效果。这条路没有捷径但方向对了就少走弯路。核心心法就是从最简单的接口调用开始建立直观感受然后深入提示词学会控制模型接着理解Agent赋予模型行动力最后利用框架工程化地构建复杂应用。每一步都动手写代码、看输出、调参数积累下来的才是真经验。