前言这两年在AI圈子里真的是新名词、新概念、新模型层出不穷貌似隔段时间不出现一个新词感觉整个行业都退步了一样大家都还在学习怎么使用好Prompt Engineering提示词工程的时候这不Context Engineering上下文工程这个新词就出来了。这篇内容来分享一下关于Context Engineering上下文工程这个新词的介绍、提示词工程和上下文工程的区别、以及二者在实际工作中的作用是什么毕竟现在AI圈子里面的新东西还是要跟上节奏学习的。首先还是要先说一下这个背景也就是为什么会提出一个Context Engineering上下文工程概念以及它所解决的问题是啥。我们其实还是要回到AI应用场景中来对于AI AgentsAI 智能体来说简单的可以认为它是由多个工作流编排而生成的而工作流编排中可能会设计到非常多环节我们可以通过下图来理解基于n8n来构建的Agent这种流程需要管理构成完整上下文的不同类型的信息系统指令用于设定行为和规则对话历史记录和用户偏好从文档或数据库中检索信息可用的工具及其定义结构化输出格式和模式实时数据与外部 API 响应对应的技术架构示意图如下如果想让 AI Agent 做某件事我们需要在不恰当的时机以不恰当的格式提供正确的上下文。那其实就是上下文工程发挥作用的地方。这不仅仅是与 LLM 对话它还关于设置围绕它的整个环境以便它能够做出好的决策。实际操作中是这样的用户输入他们正在询问什么聊天历史AI 具有记忆用户数据偏好设置、历史行为、个性化RAG 上下文从文档、网站和向量数据库中提取Tool FunctionAPI、搜索、计算器需要什么就有什么理由Agent可以规划、反思和适应关于短期记忆Short-Term Memory和长期记忆Long-Term Memory短期记忆 它主要是在当前的上下文窗口中长期记忆 存储在独立的向量数据库中对于大模型来说提供给它完整结构化的的信息上下文内容比一个固定带有话术/措辞的内容提示词要重要因为模型首先要先完整的理解这些信息才能给出准备的答复而完整的信息并不是一个简单的提示词还包含了过去我们所沟通的历史信息以及前期所设定的内容范围。所以很多时候模型返回的信息不准确通常不是模型的问题而是我们给模型输入的内容缺少前后背景信息。提示词是起点上下文就是系统。上下文工程与提示词工程的区别是什么提示词工程简单来说用于单次窗口对话而对于复杂、系统化的工程来说它不仅仅是一个单次对话那么简单而是要包含所有前面的对话内容、内置的提示词信息等等在上下文工程里面也是包含了提示词内容可以说提示词工程是上下文工程其中的一个子集比如我们让 ChatGPT “写一封专业的电子邮件”那这个就是一个提示词我们是在为单个任务编写指令但如果你正在构建一个需要记住之前工单、访问用户账户详细信息并在多次交互中保持对话历史记录的客户服务机器人那就是上下文工程。上下文工程是构建动态系统以在正确的格式中提供正确的信息和工具使得 LLM 能够合理地完成任务。大部分情况下当Agent表现不可靠时根本原因在于适当的上下文、指令和工具没有传达给模型。与此同时LLM 应用正从单一提示词模式发展到更复杂、动态的 AI Agent系统因此上下文工程正成为 AI 工程师可以发展的 最重要技能所以在很多公司招聘中除了提示词工程时还会有上文下工程师这也是一项职业技能。大多数 AI 应用都同时使用提示工程和上下文工程在上下文工程系统中我们其实仍然需要精心编写的提示而区别在于这些提示现在与经过仔细编排的前提和背景信息一起运行而不是每次都从头开始。方法最适用于提示工程一次性任务内容生成特定格式输出上下文工程对话式 AI文档分析工具代码助手两者结合需要一致、可靠性能的生产 AI 应用上下文工程在应用中的实践当我们开始构建需要处理复杂、相互关联信息的 AI 应用时上下文工程便从理论走向现实构建 AI 应用考虑一个需要支持内部业务系统、当前信息处理状态并参考产品文档的客户服务机器人同时还要保持友好的对话语气。这就是传统提示方法失效而上下文工程变得必要的地方。1. RAG 系统上下文工程可以说始于检索增强生成 (RAG)系统。RAG 是最早让 LLMs 接触到其原始训练数据之外信息的技术之一。RAG 系统使用先进的上下文工程技术来更有效地组织和呈现信息。它们将文档分解为有意义的片段按相关性对信息进行排序并在令牌限制内包含最实用的细节。在 RAG 之前如果你想让 AI 回答关于你公司内部文件的问题你必须重新训练或微调整个模型。RAG 通过构建能够搜索你的文件、找到相关片段并将它们与你的问题一起包含在上下文窗口中改变了这一点。这意味着 LLMs 突然能够分析多个文档和来源以回答通常需要人类阅读数百页才能回答的复杂问题。2. AI AgentRAG 系统为外部信息打开了大门但 AI 代理通过使上下文动态和响应式将这一点进一步推进。代理在对话过程中使用外部工具而不仅仅是检索静态文档。AI 决定哪个工具最能解决当前问题。一个代理可以开始对话意识到需要当前的股票数据调用金融 API然后使用这些最新信息继续对话。3. AI 编程助手例如如Cursor代表了上下文工程最先进的应用之一因为AI编程助手处理高度结构化、相互关联的信息时结合了 RAG 和AI Agent的技术。这些系统不仅需要理解单个文件还需要理解整个项目架构、模块之间的依赖关系以及代码库中的编码模式。当你要求代码助手重构一个函数时它需要了解该函数的使用位置、期望的数据类型以及更改可能如何影响项目的其他部分。在此上下文工程变得至关重要因为代码具有跨越多个文件甚至多个存储库的关系。一个好的编码助手会维护关于你的项目结构、你最近所做的更改、你的编码风格以及你正在使用的框架的上下文信息。上下文工程可能存在的问题好了上面其实基本讲清楚了关于上下文工程相关的内容以及在实际应用场景中是怎么体现出上下文的作用的那反过来说这东西难道就没有其它问题吗毕竟如果我们要做一个很复杂的、超长链路的Agent服务时中间要处理的上下文信息可能要非常庞大Token数量也会用的非常庞大。带着这个疑问找到了一篇关于上下文工程中异常/失败问题的论述博客放在文末了该兴趣的读者可以直接查看原版这里我总结归纳为几点总体来说会出现四个上下文异常/失败问题第一上下文污染上下文污染是指幻觉或其他错误进入上下文并被反复引用。这个问题的一种特别严重的表现形式是“上下文中毒”——上下文目标、摘要的许多部分被关于游戏状态的错误信息“污染”这通常需要很长时间才能纠正。结果模型可能会执着于实现不可能或不相关目标。第二上下文干扰上下文干扰是指当上下文变得过长时模型过度关注上下文忽视了在训练过程中所学到的内容。在AI Agent工作流程中随着上下文增长即模型收集更多信息并积累历史累积的上下文可能会变得令人分心而不是有所帮助。第三上下文混淆上下文混淆是指模型在生成低质量响应时使用了上下文中多余的内容如果把某些内容放入上下文中 *模型就必须关注它*这可能是无关紧要的信息或由无用的工具定义但模型会将其纳入考虑范围。大型模型尤其是推理模型在忽略或丢弃冗余上下文方面正变得越来越好但我们持续看到无用的信息让Agent陷入困境。总之来说越长的上下文能够容纳更多的信息但这种能力伴随着弊端就是容易混淆。第四上下文冲突上下文冲突是指你在当前上下文中积累的新信息或工具与其他上下文中的信息发生冲突。这是一个更麻烦版本的《上下文混淆》这里的坏上下文并非无关紧要它直接与其他提示中的信息冲突。微软和 Salesforce 团队从多个基准测试中获取提示并将他们的信息“分片”到多个提示中。可以这样理解有时在按下回车键之前你可能会坐下来在 ChatGPT 或 Claude 中输入段落考虑每一个必要的细节。其他时候你可能会从一个简单的提示开始然后在聊天机器人的回答不令人满意时添加更多细节。微软/Salesforce 团队修改了基准测试提示使其看起来像这些多步骤的交流最后为什么要学AI大模型当下⼈⼯智能市场迎来了爆发期并逐渐进⼊以⼈⼯通⽤智能AGI为主导的新时代。企业纷纷官宣“ AI ”战略为新兴技术⼈才创造丰富的就业机会⼈才缺⼝将达 400 万DeepSeek问世以来生成式AI和大模型技术爆发式增长让很多岗位重新成了炙手可热的新星岗位薪资远超很多后端岗位在程序员中稳居前列。与此同时AI与各行各业深度融合飞速发展成为炙手可热的新风口企业非常需要了解AI、懂AI、会用AI的员工纷纷开出高薪招聘AI大模型相关岗位。最近很多程序员朋友都已经学习或者准备学习 AI 大模型后台也经常会有小伙伴咨询学习路线和学习资料我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师给大家这里给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频全系列的学习资料这些学习资料不仅深入浅出而且非常实用让大家系统而高效地掌握AI大模型的各个知识点。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】AI大模型系统学习路线在面对AI大模型开发领域的复杂与深入精准学习显得尤为重要。一份系统的技术路线图不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点还能提供一条高效、有序的学习路径。但知道是一回事做又是另一回事初学者最常遇到的问题主要是理论知识缺乏、资源和工具的限制、模型理解和调试的复杂性在这基础上找到高质量的学习资源不浪费时间、不走弯路又是重中之重。AI大模型入门到实战的视频教程项目包看视频学习是一种高效、直观、灵活且富有吸引力的学习方式可以更直观地展示过程能有效提升学习兴趣和理解力是现在获取知识的重要途径光学理论是没用的要学会跟着一起敲要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。海量AI大模型必读的经典书籍PDF阅读AI大模型经典书籍可以帮助读者提高技术水平开拓视野掌握核心技术提高解决问题的能力同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说阅读经典书籍是非常有必要的。600AI大模型报告实时更新这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。AI大模型面试真题答案解析我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】 【必看】大模型新技能：上下文工程超越提示词，构建更智能AI系统，建议收藏！！
前言这两年在AI圈子里真的是新名词、新概念、新模型层出不穷貌似隔段时间不出现一个新词感觉整个行业都退步了一样大家都还在学习怎么使用好Prompt Engineering提示词工程的时候这不Context Engineering上下文工程这个新词就出来了。这篇内容来分享一下关于Context Engineering上下文工程这个新词的介绍、提示词工程和上下文工程的区别、以及二者在实际工作中的作用是什么毕竟现在AI圈子里面的新东西还是要跟上节奏学习的。首先还是要先说一下这个背景也就是为什么会提出一个Context Engineering上下文工程概念以及它所解决的问题是啥。我们其实还是要回到AI应用场景中来对于AI AgentsAI 智能体来说简单的可以认为它是由多个工作流编排而生成的而工作流编排中可能会设计到非常多环节我们可以通过下图来理解基于n8n来构建的Agent这种流程需要管理构成完整上下文的不同类型的信息系统指令用于设定行为和规则对话历史记录和用户偏好从文档或数据库中检索信息可用的工具及其定义结构化输出格式和模式实时数据与外部 API 响应对应的技术架构示意图如下如果想让 AI Agent 做某件事我们需要在不恰当的时机以不恰当的格式提供正确的上下文。那其实就是上下文工程发挥作用的地方。这不仅仅是与 LLM 对话它还关于设置围绕它的整个环境以便它能够做出好的决策。实际操作中是这样的用户输入他们正在询问什么聊天历史AI 具有记忆用户数据偏好设置、历史行为、个性化RAG 上下文从文档、网站和向量数据库中提取Tool FunctionAPI、搜索、计算器需要什么就有什么理由Agent可以规划、反思和适应关于短期记忆Short-Term Memory和长期记忆Long-Term Memory短期记忆 它主要是在当前的上下文窗口中长期记忆 存储在独立的向量数据库中对于大模型来说提供给它完整结构化的的信息上下文内容比一个固定带有话术/措辞的内容提示词要重要因为模型首先要先完整的理解这些信息才能给出准备的答复而完整的信息并不是一个简单的提示词还包含了过去我们所沟通的历史信息以及前期所设定的内容范围。所以很多时候模型返回的信息不准确通常不是模型的问题而是我们给模型输入的内容缺少前后背景信息。提示词是起点上下文就是系统。上下文工程与提示词工程的区别是什么提示词工程简单来说用于单次窗口对话而对于复杂、系统化的工程来说它不仅仅是一个单次对话那么简单而是要包含所有前面的对话内容、内置的提示词信息等等在上下文工程里面也是包含了提示词内容可以说提示词工程是上下文工程其中的一个子集比如我们让 ChatGPT “写一封专业的电子邮件”那这个就是一个提示词我们是在为单个任务编写指令但如果你正在构建一个需要记住之前工单、访问用户账户详细信息并在多次交互中保持对话历史记录的客户服务机器人那就是上下文工程。上下文工程是构建动态系统以在正确的格式中提供正确的信息和工具使得 LLM 能够合理地完成任务。大部分情况下当Agent表现不可靠时根本原因在于适当的上下文、指令和工具没有传达给模型。与此同时LLM 应用正从单一提示词模式发展到更复杂、动态的 AI Agent系统因此上下文工程正成为 AI 工程师可以发展的 最重要技能所以在很多公司招聘中除了提示词工程时还会有上文下工程师这也是一项职业技能。大多数 AI 应用都同时使用提示工程和上下文工程在上下文工程系统中我们其实仍然需要精心编写的提示而区别在于这些提示现在与经过仔细编排的前提和背景信息一起运行而不是每次都从头开始。方法最适用于提示工程一次性任务内容生成特定格式输出上下文工程对话式 AI文档分析工具代码助手两者结合需要一致、可靠性能的生产 AI 应用上下文工程在应用中的实践当我们开始构建需要处理复杂、相互关联信息的 AI 应用时上下文工程便从理论走向现实构建 AI 应用考虑一个需要支持内部业务系统、当前信息处理状态并参考产品文档的客户服务机器人同时还要保持友好的对话语气。这就是传统提示方法失效而上下文工程变得必要的地方。1. RAG 系统上下文工程可以说始于检索增强生成 (RAG)系统。RAG 是最早让 LLMs 接触到其原始训练数据之外信息的技术之一。RAG 系统使用先进的上下文工程技术来更有效地组织和呈现信息。它们将文档分解为有意义的片段按相关性对信息进行排序并在令牌限制内包含最实用的细节。在 RAG 之前如果你想让 AI 回答关于你公司内部文件的问题你必须重新训练或微调整个模型。RAG 通过构建能够搜索你的文件、找到相关片段并将它们与你的问题一起包含在上下文窗口中改变了这一点。这意味着 LLMs 突然能够分析多个文档和来源以回答通常需要人类阅读数百页才能回答的复杂问题。2. AI AgentRAG 系统为外部信息打开了大门但 AI 代理通过使上下文动态和响应式将这一点进一步推进。代理在对话过程中使用外部工具而不仅仅是检索静态文档。AI 决定哪个工具最能解决当前问题。一个代理可以开始对话意识到需要当前的股票数据调用金融 API然后使用这些最新信息继续对话。3. AI 编程助手例如如Cursor代表了上下文工程最先进的应用之一因为AI编程助手处理高度结构化、相互关联的信息时结合了 RAG 和AI Agent的技术。这些系统不仅需要理解单个文件还需要理解整个项目架构、模块之间的依赖关系以及代码库中的编码模式。当你要求代码助手重构一个函数时它需要了解该函数的使用位置、期望的数据类型以及更改可能如何影响项目的其他部分。在此上下文工程变得至关重要因为代码具有跨越多个文件甚至多个存储库的关系。一个好的编码助手会维护关于你的项目结构、你最近所做的更改、你的编码风格以及你正在使用的框架的上下文信息。上下文工程可能存在的问题好了上面其实基本讲清楚了关于上下文工程相关的内容以及在实际应用场景中是怎么体现出上下文的作用的那反过来说这东西难道就没有其它问题吗毕竟如果我们要做一个很复杂的、超长链路的Agent服务时中间要处理的上下文信息可能要非常庞大Token数量也会用的非常庞大。带着这个疑问找到了一篇关于上下文工程中异常/失败问题的论述博客放在文末了该兴趣的读者可以直接查看原版这里我总结归纳为几点总体来说会出现四个上下文异常/失败问题第一上下文污染上下文污染是指幻觉或其他错误进入上下文并被反复引用。这个问题的一种特别严重的表现形式是“上下文中毒”——上下文目标、摘要的许多部分被关于游戏状态的错误信息“污染”这通常需要很长时间才能纠正。结果模型可能会执着于实现不可能或不相关目标。第二上下文干扰上下文干扰是指当上下文变得过长时模型过度关注上下文忽视了在训练过程中所学到的内容。在AI Agent工作流程中随着上下文增长即模型收集更多信息并积累历史累积的上下文可能会变得令人分心而不是有所帮助。第三上下文混淆上下文混淆是指模型在生成低质量响应时使用了上下文中多余的内容如果把某些内容放入上下文中 *模型就必须关注它*这可能是无关紧要的信息或由无用的工具定义但模型会将其纳入考虑范围。大型模型尤其是推理模型在忽略或丢弃冗余上下文方面正变得越来越好但我们持续看到无用的信息让Agent陷入困境。总之来说越长的上下文能够容纳更多的信息但这种能力伴随着弊端就是容易混淆。第四上下文冲突上下文冲突是指你在当前上下文中积累的新信息或工具与其他上下文中的信息发生冲突。这是一个更麻烦版本的《上下文混淆》这里的坏上下文并非无关紧要它直接与其他提示中的信息冲突。微软和 Salesforce 团队从多个基准测试中获取提示并将他们的信息“分片”到多个提示中。可以这样理解有时在按下回车键之前你可能会坐下来在 ChatGPT 或 Claude 中输入段落考虑每一个必要的细节。其他时候你可能会从一个简单的提示开始然后在聊天机器人的回答不令人满意时添加更多细节。微软/Salesforce 团队修改了基准测试提示使其看起来像这些多步骤的交流最后为什么要学AI大模型当下⼈⼯智能市场迎来了爆发期并逐渐进⼊以⼈⼯通⽤智能AGI为主导的新时代。企业纷纷官宣“ AI ”战略为新兴技术⼈才创造丰富的就业机会⼈才缺⼝将达 400 万DeepSeek问世以来生成式AI和大模型技术爆发式增长让很多岗位重新成了炙手可热的新星岗位薪资远超很多后端岗位在程序员中稳居前列。与此同时AI与各行各业深度融合飞速发展成为炙手可热的新风口企业非常需要了解AI、懂AI、会用AI的员工纷纷开出高薪招聘AI大模型相关岗位。最近很多程序员朋友都已经学习或者准备学习 AI 大模型后台也经常会有小伙伴咨询学习路线和学习资料我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师给大家这里给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频全系列的学习资料这些学习资料不仅深入浅出而且非常实用让大家系统而高效地掌握AI大模型的各个知识点。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】AI大模型系统学习路线在面对AI大模型开发领域的复杂与深入精准学习显得尤为重要。一份系统的技术路线图不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点还能提供一条高效、有序的学习路径。但知道是一回事做又是另一回事初学者最常遇到的问题主要是理论知识缺乏、资源和工具的限制、模型理解和调试的复杂性在这基础上找到高质量的学习资源不浪费时间、不走弯路又是重中之重。AI大模型入门到实战的视频教程项目包看视频学习是一种高效、直观、灵活且富有吸引力的学习方式可以更直观地展示过程能有效提升学习兴趣和理解力是现在获取知识的重要途径光学理论是没用的要学会跟着一起敲要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。海量AI大模型必读的经典书籍PDF阅读AI大模型经典书籍可以帮助读者提高技术水平开拓视野掌握核心技术提高解决问题的能力同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说阅读经典书籍是非常有必要的。600AI大模型报告实时更新这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。AI大模型面试真题答案解析我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】