导语
RAG 一上线,最常见抱怨是:
“模型不行,答非所问。”
别急着换更贵的模型。
很多时候,模型只是在认真使用你检索给它的垃圾上下文。
输入是混的,输出很难清。
今天这篇只讲一个观点:
RAG 效果差,优先查链路,不优先骂模型。
一、先做故障定位:到底错在哪一层
建议按四层排查:
- 1库里有没有正确答案
- 2检索有没有找到它
- 3找到后有没有排到前面
- 4模型基于材料有没有答对 很多团队直接从第 4 层开骂。
结果钱花了,病根还在第 1 或第 2 层。
二、分块:最容易被低估的差距
分块太大:
一段里什么都有,相似度看着行,真正关键句被淹没。
分块太小:
句子孤立,缺前后条件,答案像断章取义。
经验上,先保证:
- 一块尽量讲完一个小点
- 保留必要标题和上下文
- 不要把表格和步骤切得面目全非 分块策略一变,效果常比换模型更明显。
三、Embedding 和检索:尺子错了全盘皆偏
两个硬原则:
- 1入库和查询必须用同一个 Embedding 模型
- 2纯向量检索不是万能 同义词、口语化问题,向量强。
但订单号、错误码、精确型号,关键词往往更稳。
所以生产里常见混合检索:
向量 + 关键词,再融合结果。
只迷信“语义万能”,会在精确匹配场景里反复栽跟头。
四、重排、改写、压缩:把噪声打下去
召回只是第一轮“广撒网”。
后面还常见三板斧:
# 查询改写
用户问得太短、太口语,先补全再检索。
# 重排序 Reranker
对 TopK 精细打分,把真正相关的顶上去。
# 上下文压缩
资料太长就裁,只留能支撑回答的句子。
目标不是塞更多,而是塞得更准。
上下文不是垃圾袋,是工作台。
五、一套可执行的优化顺序
别同时拧十个旋钮。
建议顺序:
- 1先抽 50 个真实问题做评测集
- 2检查文档覆盖和更新
- 3调分块
- 4固定 Embedding,对比检索命中
- 5加混合检索
- 6加重排
- 7最后再考虑换生成模型 每一步都看指标:命中率、前三命中、答案可引用率。
没有评测集的优化,叫玄学加班。
六、一个反直觉事实
很多团队换了更强生成模型,正确率几乎不动。
因为瓶颈在“资料有没有被正确送到模型眼前”。
这就像给厨师换更好的锅,但不解决买菜和备菜问题。
菜不对,锅再好也炒不出目标味道。
所以评估时请同时看:
- 检索命中了吗
- 命中的段落够不够支撑答案
- 最终答案有没有用这些段落
只看最终答案,会误判责任人。
关键结论
RAG 答得差,模型当然可能有锅。
但更常见的是:文档、分块、检索、排序、上下文组装,其中一环先翻车。
先修链路,再升级模型。
这顺序能省下大量预算和扯皮时间。
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋
📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~