)
AI Agent 技术栈梳理(Skill / 蒸馏 / MCP / Harness)一共包含三个内容Skill / 蒸馏 / MCP / Harness 分别是什么、有何关联除了这些Agent 还有哪些技术栈当前热门AI关键词术语速览一、四个核心热门概念Skill / 蒸馏 / MCP / Harness1.1 一句话总览概念一句话所属层蒸馏Distillation用大模型教出小模型压缩体积保留能力模型层Harness运行模型的智能体运行时 / 编排框架运行时层Skill技能按需加载的能力包指令 流程 资源能力扩展层MCP连接外部工具 / 数据的标准协议能力扩展层协议1.2 蒸馏Knowledge Distillation模型压缩技术用一个强大的教师模型Teacher去教一个小的学生模型Student让后者模仿前者的输出从而在体积更小、成本更低、速度更快的前提下保留大部分能力。经典例子DeepSeek-R1-Distill-Qwen、DeepSeek-R1-Distill-Llama用 R1 蒸馏出的小模型价值把 671B 的大模型能力浓缩到 7B / 14B能跑在单卡甚至本地关键点它只影响用哪个模型与下面的基础设施无关1.3 Harness智能体运行时 / 编排框架“套在模型外面的那套东西”——负责跑模型、管工具、管上下文、执行 agent 循环调用模型 → 解析工具调用 → 执行 → 把结果喂回去反复。以DeepSeek HarnessDSH为例它就是 harness提供run_code、read、write、pwsh、web_search等一堆工具管理沙箱、文件权限、审批、后台任务、子代理、目标goal提供 Web GUI模型只是在它的循环里被反复调用真正的手脚都是 harness 给的类比模型是大脑harness 是身体 神经系统。1.4 Skill技能一个可复用的能力包按需加载避免把所有知识常驻在上下文里。通常是一个 SKILL.md 说明文件 若干脚本 / 资源告诉模型遇到某类任务时该怎么做。例子一个pdf-processing技能、一个database-migration技能工作方式平时不加载只有当任务命中某个技能时harness 才把这个技能的完整指令塞进上下文价值知识模块化 按需注入省 token、也更可控在 DSH 里就有skill工具和会话技能目录skill catalog这就是 skill 概念的落地。1.5 MCPModel Context ProtocolAnthropic 提出的开放标准协议作用是让 AI 模型 / 智能体用统一的方式接入外部工具、数据和资源号称AI 的 USB-C 接口。核心角色MCP Server暴露工具 / 资源的一方如文件系统 server、数据库 server、GitHub serverMCP Client消费这些工具的一方通常是 harness 或 IDE 里的插件价值标准化——以前每家都要自己写对接代码现在只要实现了 MCP任何支持 MCP 的客户端都能直接连1.6 四个概念的关联关系┌──────────────────────────────────────────────┐ │ Harness智能体运行时例如 DeepSeek Harness │ │ │ │ ┌────────────────────────────┐ │ │ │ 模型可能是蒸馏出来的小模型│ ← 蒸馏影响这层 │ │ └────────────────────────────┘ │ │ │ │ ┌────────────── 能力扩展 ──────────────┐ │ │ │ Skill内部能力包指令/流程/脚本 │ │ │ │ MCP 客户端 ──协议──▶ MCP Server │ │ │ │ 外部工具/数据源 │ │ │ └────────────────────────────────────┘ │ └──────────────────────────────────────────────┘Harness 是容器其它都装在里面。Harness 负责跑模型、调用工具、执行循环。Skill 和 MCP 都是 harness 用来扩展模型能力的手段。Skill 和 MCP 是互补的两种扩展方式Skill 给模型内置知识 / 流程带自己的指令偏静态、本地MCP 给模型外接实时工具 / 数据标准化协议偏动态、联网两者可被同一个 harness 同时使用不冲突蒸馏是正交的独立维度它只决定harness 里跑的是哪个模型不影响 harness / skill / MCP 的架构。一个被蒸馏的小模型照样可以跑在 harness 里、加载 skill、通过 MCP 调外部工具。一句话概括蒸馏决定了大脑多小多便宜Harness提供身体和手脚Skill是随身携带的技能手册MCP是插拔外部设备的通用接口。二、AI Agent 完整技术栈9 层上述四个概念只是整个 Agent 技术栈里的几个点。完整栈分9 层层名称核心内容已讲①模型层基座模型、微调、RL、蒸馏、Embedding蒸馏 ✓②运行时 框架层Harness、Agent 框架、循环范式Harness ✓③能力扩展层Skill、MCP、Tool、RAG、插件Skill/MCP ✓④记忆 上下文层短期记忆、长期记忆、上下文工程—⑤工具 集成层代码沙箱、浏览器自动化、Computer Use—⑥编排 多智能体层多智能体、Workflow、Subagent—⑦评估 观测层Evals、Benchmark、Tracing—⑧安全 治理层沙箱、权限审批、Guardrails—⑨基础设施层推理引擎、向量库、网关、部署—2.1 ① 模型层Model基座模型LLM / VLM / 多模态微调SFT、LoRA、DPO、RLHF强化学习RL / GRPO专门训练agent 行为让模型会规划、会用工具、会自我纠错蒸馏已讲Embedding / Reranker 模型给 RAG 用2.2 ② 运行时 框架层Runtime FrameworkHarness已讲Agent 框架LangChain / LangGraph、LlamaIndex、AutoGen、CrewAI、Semantic Kernel、OpenAI Agents SDK、Google ADK、Dify低代码Agent 循环范式ReAct推理 行动、Plan-and-Execute、Reflexion反思、Tool-use2.3 ③ 能力扩展层CapabilitySkill已讲、MCP已讲Tool / Function Calling模型直接调用函数比 MCP 更原始、更基础RAG检索增强生成外部知识检索后喂给模型插件系统2.4 ④ 记忆 上下文层Memory Context短期记忆上下文窗口、KV Cache长期记忆向量库 记忆系统MemGPT / Letta、Zep、LangMem上下文工程Context Engineering压缩、摘要、选择性注入、上下文缓存2.5 ⑤ 工具 集成层Tools Integration代码执行沙箱E2B、容器、Code Interpreter浏览器自动化Playwright、Puppeteer、Browser-useComputer Use直接操作电脑屏幕 / 键盘鼠标搜索、文件系统、数据库、第三方 API 集成2.6 ⑥ 编排 多智能体层Orchestration Multi-agent多智能体主从、协作、竞争 / 辩论、层级式Workflow 编排DAG、状态机LangGraph、Temporal、Prefect、n8n子代理Subagent一个主 agent 派生子任务2.7 ⑦ 评估 观测层Eval Observability评测基准SWE-bench、GAIA、AgentBench、τ-bench追踪观测TracingLangSmith、Langfuse、Arize Phoenix、OpenTelemetry GenAI成本追踪、质量监控2.8 ⑧ 安全 治理层Safety Governance沙箱隔离sandbox权限 审批RBAC、human-in-the-loop关键操作需人工确认GuardrailsPrompt 注入防护、内容安全、越权拦截审计日志2.9 ⑨ 基础设施层Infrastructure推理引擎vLLM、TGI、SGLang、TensorRT-LLM向量数据库Milvus、Pinecone、Weaviate、Qdrant、pgvector、Chroma模型网关LiteLLM、One API、OpenRouter、Portkey部署K8s、Serverless、GPU 集群三、整体关系一图流① 模型层 ← 大脑可能蒸馏 / 微调 / RL 过 │ ② 运行时/框架 ← Harness Agent 框架 循环范式 │ ③ 能力扩展 ← Skill / MCP / Tool / RAG ④ 记忆/上下文 ← 短期 长期 上下文工程 ⑤ 工具/集成 ← 沙箱 / 浏览器 / Computer Use │ ⑥ 编排/多智能体 ← 多 agent workflow subagent │ ⑦ 评估/观测 ← 横向贯穿测效果、看 trace ⑧ 安全/治理 ← 横向贯穿沙箱、权限、护栏 │ ⑨ 基础设施 ← 底层推理、向量库、网关、部署四、补充要点前面四个概念覆盖的是模型层蒸馏、运行时层Harness、能力扩展层Skill、MCP。中间还有记忆、编排、评估、安全、基础设施这五大块未涉及。实际落地时最重要的几个除已讲的RAG——绝大多数业务 agent 都在用Function Calling / Tool Use——agent 能动手的基础长期记忆——让 agent 跨会话记得住Tracing / 可观测性——生产环境排障刚需多智能体 / Subagent——复杂任务的拆解协作概念 vs 产品每个类别里都有大量具体产品 / 框架LangChain、LangGraph、Dify、Milvus、Langfuse…它们各自属于某一层不要混为一谈。当前趋势这套栈仍在快速演进几个较热的方向是Agentic 专用训练RL / GRPO、MCP 生态标准化、Computer Use / 浏览器智能体、上下文工程与记忆系统。五、AI关键词术语速览 基础概念术语通俗解释AI人工智能模拟人类智能的技术系统像能自主升级的“电子大脑”。AGI通用人工智能具备人类广泛认知能力能跨领域自主解决问题。AIGC人工智能生成内容的总称文字、图片、音视频等。生成式 AI专门创造全新数字内容如文本、图像、音乐的技术。 模型与架构术语通俗解释GPT基于 Transformer 的生成式预训练模型可写文章、对话。Transformer基于注意力机制的模型架构现代大模型的基础。LLM大语言模型处理海量语言信息的 AI 系统如“超级语料处理器”。神经网络仿生物神经元连接的计算模型像层层传递的“快递分拣中心”。深度学习基于多层神经网络的特征抽象技术。机器学习通过数据训练模型实现预测和决策。强化学习通过奖惩机制优化决策类似游戏策略调整。GAN生成对抗网络生成器与判别器对抗训练模拟“造假”与“打假”博弈。 训练与优化术语通俗解释监督学习用标注数据训练像有老师逐题批改作业。无监督学习自主发现数据规律像没有参考答案的自学。半监督学习结合标注与非标注数据训练。训练集用于模型训练的数据集合。过拟合模型过度拟合训练数据导致泛化能力差。迁移学习将已学知识迁移到新领域提高学习效率。特征提取从数据中识别最具辨识度的特征。参数调整优化模型内部配置的过程。Fine-tuning微调在预训练模型基础上针对性优化。️ 应用与工具术语通俗解释NLP自然语言处理让计算机理解、生成人类语言翻译、情感分析等。CV计算机视觉让机器解析图像、视频等视觉信息。TTS语音合成文字转自然语音像 AI 配音演员。ASR语音识别语音转文字技术。MidJourney文生图扩散模型应用图片生成工具。Hugging Face开源 AI 模型社区类似 AI 模型的“应用商店”。OpenAI知名 AI 研究机构ChatGPT 的创造者。 其他关键术语术语通俗解释Prompt提示词引导 AI 输出的指令文本像唤醒 AI 的“咒语”。算力计算机处理数据的能力驱动 AI 运转的“引擎”。推荐链接1. 什么是Skill以及和MCP的区别2. 学习AI的相关课程3. 鱼皮的AI知识库本文档用于梳理 AI Agent 技术栈的核心概念与分层具体产品 / 框架随生态快速迭代以最新资料为准。 AI Agent 技术栈梳理(Skill / 蒸馏 / MCP / Harness)
AI Agent 技术栈梳理(Skill / 蒸馏 / MCP / Harness)一共包含三个内容Skill / 蒸馏 / MCP / Harness 分别是什么、有何关联除了这些Agent 还有哪些技术栈当前热门AI关键词术语速览一、四个核心热门概念Skill / 蒸馏 / MCP / Harness1.1 一句话总览概念一句话所属层蒸馏Distillation用大模型教出小模型压缩体积保留能力模型层Harness运行模型的智能体运行时 / 编排框架运行时层Skill技能按需加载的能力包指令 流程 资源能力扩展层MCP连接外部工具 / 数据的标准协议能力扩展层协议1.2 蒸馏Knowledge Distillation模型压缩技术用一个强大的教师模型Teacher去教一个小的学生模型Student让后者模仿前者的输出从而在体积更小、成本更低、速度更快的前提下保留大部分能力。经典例子DeepSeek-R1-Distill-Qwen、DeepSeek-R1-Distill-Llama用 R1 蒸馏出的小模型价值把 671B 的大模型能力浓缩到 7B / 14B能跑在单卡甚至本地关键点它只影响用哪个模型与下面的基础设施无关1.3 Harness智能体运行时 / 编排框架“套在模型外面的那套东西”——负责跑模型、管工具、管上下文、执行 agent 循环调用模型 → 解析工具调用 → 执行 → 把结果喂回去反复。以DeepSeek HarnessDSH为例它就是 harness提供run_code、read、write、pwsh、web_search等一堆工具管理沙箱、文件权限、审批、后台任务、子代理、目标goal提供 Web GUI模型只是在它的循环里被反复调用真正的手脚都是 harness 给的类比模型是大脑harness 是身体 神经系统。1.4 Skill技能一个可复用的能力包按需加载避免把所有知识常驻在上下文里。通常是一个 SKILL.md 说明文件 若干脚本 / 资源告诉模型遇到某类任务时该怎么做。例子一个pdf-processing技能、一个database-migration技能工作方式平时不加载只有当任务命中某个技能时harness 才把这个技能的完整指令塞进上下文价值知识模块化 按需注入省 token、也更可控在 DSH 里就有skill工具和会话技能目录skill catalog这就是 skill 概念的落地。1.5 MCPModel Context ProtocolAnthropic 提出的开放标准协议作用是让 AI 模型 / 智能体用统一的方式接入外部工具、数据和资源号称AI 的 USB-C 接口。核心角色MCP Server暴露工具 / 资源的一方如文件系统 server、数据库 server、GitHub serverMCP Client消费这些工具的一方通常是 harness 或 IDE 里的插件价值标准化——以前每家都要自己写对接代码现在只要实现了 MCP任何支持 MCP 的客户端都能直接连1.6 四个概念的关联关系┌──────────────────────────────────────────────┐ │ Harness智能体运行时例如 DeepSeek Harness │ │ │ │ ┌────────────────────────────┐ │ │ │ 模型可能是蒸馏出来的小模型│ ← 蒸馏影响这层 │ │ └────────────────────────────┘ │ │ │ │ ┌────────────── 能力扩展 ──────────────┐ │ │ │ Skill内部能力包指令/流程/脚本 │ │ │ │ MCP 客户端 ──协议──▶ MCP Server │ │ │ │ 外部工具/数据源 │ │ │ └────────────────────────────────────┘ │ └──────────────────────────────────────────────┘Harness 是容器其它都装在里面。Harness 负责跑模型、调用工具、执行循环。Skill 和 MCP 都是 harness 用来扩展模型能力的手段。Skill 和 MCP 是互补的两种扩展方式Skill 给模型内置知识 / 流程带自己的指令偏静态、本地MCP 给模型外接实时工具 / 数据标准化协议偏动态、联网两者可被同一个 harness 同时使用不冲突蒸馏是正交的独立维度它只决定harness 里跑的是哪个模型不影响 harness / skill / MCP 的架构。一个被蒸馏的小模型照样可以跑在 harness 里、加载 skill、通过 MCP 调外部工具。一句话概括蒸馏决定了大脑多小多便宜Harness提供身体和手脚Skill是随身携带的技能手册MCP是插拔外部设备的通用接口。二、AI Agent 完整技术栈9 层上述四个概念只是整个 Agent 技术栈里的几个点。完整栈分9 层层名称核心内容已讲①模型层基座模型、微调、RL、蒸馏、Embedding蒸馏 ✓②运行时 框架层Harness、Agent 框架、循环范式Harness ✓③能力扩展层Skill、MCP、Tool、RAG、插件Skill/MCP ✓④记忆 上下文层短期记忆、长期记忆、上下文工程—⑤工具 集成层代码沙箱、浏览器自动化、Computer Use—⑥编排 多智能体层多智能体、Workflow、Subagent—⑦评估 观测层Evals、Benchmark、Tracing—⑧安全 治理层沙箱、权限审批、Guardrails—⑨基础设施层推理引擎、向量库、网关、部署—2.1 ① 模型层Model基座模型LLM / VLM / 多模态微调SFT、LoRA、DPO、RLHF强化学习RL / GRPO专门训练agent 行为让模型会规划、会用工具、会自我纠错蒸馏已讲Embedding / Reranker 模型给 RAG 用2.2 ② 运行时 框架层Runtime FrameworkHarness已讲Agent 框架LangChain / LangGraph、LlamaIndex、AutoGen、CrewAI、Semantic Kernel、OpenAI Agents SDK、Google ADK、Dify低代码Agent 循环范式ReAct推理 行动、Plan-and-Execute、Reflexion反思、Tool-use2.3 ③ 能力扩展层CapabilitySkill已讲、MCP已讲Tool / Function Calling模型直接调用函数比 MCP 更原始、更基础RAG检索增强生成外部知识检索后喂给模型插件系统2.4 ④ 记忆 上下文层Memory Context短期记忆上下文窗口、KV Cache长期记忆向量库 记忆系统MemGPT / Letta、Zep、LangMem上下文工程Context Engineering压缩、摘要、选择性注入、上下文缓存2.5 ⑤ 工具 集成层Tools Integration代码执行沙箱E2B、容器、Code Interpreter浏览器自动化Playwright、Puppeteer、Browser-useComputer Use直接操作电脑屏幕 / 键盘鼠标搜索、文件系统、数据库、第三方 API 集成2.6 ⑥ 编排 多智能体层Orchestration Multi-agent多智能体主从、协作、竞争 / 辩论、层级式Workflow 编排DAG、状态机LangGraph、Temporal、Prefect、n8n子代理Subagent一个主 agent 派生子任务2.7 ⑦ 评估 观测层Eval Observability评测基准SWE-bench、GAIA、AgentBench、τ-bench追踪观测TracingLangSmith、Langfuse、Arize Phoenix、OpenTelemetry GenAI成本追踪、质量监控2.8 ⑧ 安全 治理层Safety Governance沙箱隔离sandbox权限 审批RBAC、human-in-the-loop关键操作需人工确认GuardrailsPrompt 注入防护、内容安全、越权拦截审计日志2.9 ⑨ 基础设施层Infrastructure推理引擎vLLM、TGI、SGLang、TensorRT-LLM向量数据库Milvus、Pinecone、Weaviate、Qdrant、pgvector、Chroma模型网关LiteLLM、One API、OpenRouter、Portkey部署K8s、Serverless、GPU 集群三、整体关系一图流① 模型层 ← 大脑可能蒸馏 / 微调 / RL 过 │ ② 运行时/框架 ← Harness Agent 框架 循环范式 │ ③ 能力扩展 ← Skill / MCP / Tool / RAG ④ 记忆/上下文 ← 短期 长期 上下文工程 ⑤ 工具/集成 ← 沙箱 / 浏览器 / Computer Use │ ⑥ 编排/多智能体 ← 多 agent workflow subagent │ ⑦ 评估/观测 ← 横向贯穿测效果、看 trace ⑧ 安全/治理 ← 横向贯穿沙箱、权限、护栏 │ ⑨ 基础设施 ← 底层推理、向量库、网关、部署四、补充要点前面四个概念覆盖的是模型层蒸馏、运行时层Harness、能力扩展层Skill、MCP。中间还有记忆、编排、评估、安全、基础设施这五大块未涉及。实际落地时最重要的几个除已讲的RAG——绝大多数业务 agent 都在用Function Calling / Tool Use——agent 能动手的基础长期记忆——让 agent 跨会话记得住Tracing / 可观测性——生产环境排障刚需多智能体 / Subagent——复杂任务的拆解协作概念 vs 产品每个类别里都有大量具体产品 / 框架LangChain、LangGraph、Dify、Milvus、Langfuse…它们各自属于某一层不要混为一谈。当前趋势这套栈仍在快速演进几个较热的方向是Agentic 专用训练RL / GRPO、MCP 生态标准化、Computer Use / 浏览器智能体、上下文工程与记忆系统。五、AI关键词术语速览 基础概念术语通俗解释AI人工智能模拟人类智能的技术系统像能自主升级的“电子大脑”。AGI通用人工智能具备人类广泛认知能力能跨领域自主解决问题。AIGC人工智能生成内容的总称文字、图片、音视频等。生成式 AI专门创造全新数字内容如文本、图像、音乐的技术。 模型与架构术语通俗解释GPT基于 Transformer 的生成式预训练模型可写文章、对话。Transformer基于注意力机制的模型架构现代大模型的基础。LLM大语言模型处理海量语言信息的 AI 系统如“超级语料处理器”。神经网络仿生物神经元连接的计算模型像层层传递的“快递分拣中心”。深度学习基于多层神经网络的特征抽象技术。机器学习通过数据训练模型实现预测和决策。强化学习通过奖惩机制优化决策类似游戏策略调整。GAN生成对抗网络生成器与判别器对抗训练模拟“造假”与“打假”博弈。 训练与优化术语通俗解释监督学习用标注数据训练像有老师逐题批改作业。无监督学习自主发现数据规律像没有参考答案的自学。半监督学习结合标注与非标注数据训练。训练集用于模型训练的数据集合。过拟合模型过度拟合训练数据导致泛化能力差。迁移学习将已学知识迁移到新领域提高学习效率。特征提取从数据中识别最具辨识度的特征。参数调整优化模型内部配置的过程。Fine-tuning微调在预训练模型基础上针对性优化。️ 应用与工具术语通俗解释NLP自然语言处理让计算机理解、生成人类语言翻译、情感分析等。CV计算机视觉让机器解析图像、视频等视觉信息。TTS语音合成文字转自然语音像 AI 配音演员。ASR语音识别语音转文字技术。MidJourney文生图扩散模型应用图片生成工具。Hugging Face开源 AI 模型社区类似 AI 模型的“应用商店”。OpenAI知名 AI 研究机构ChatGPT 的创造者。 其他关键术语术语通俗解释Prompt提示词引导 AI 输出的指令文本像唤醒 AI 的“咒语”。算力计算机处理数据的能力驱动 AI 运转的“引擎”。推荐链接1. 什么是Skill以及和MCP的区别2. 学习AI的相关课程3. 鱼皮的AI知识库本文档用于梳理 AI Agent 技术栈的核心概念与分层具体产品 / 框架随生态快速迭代以最新资料为准。