ARTICLE DETAIL

资讯详情

深耕网站建设、视觉设计与SEO优化的一线实战洞察。

RAG 效果差,八成不是模型不行

RAG 效果差,八成不是模型不行

导语

RAG 一上线,最常见抱怨是:

“模型不行,答非所问。”

别急着换更贵的模型。

很多时候,模型只是在认真使用你检索给它的垃圾上下文。

输入是混的,输出很难清。

今天这篇只讲一个观点:

RAG 效果差,优先查链路,不优先骂模型。

一、先做故障定位:到底错在哪一层

建议按四层排查:

  1. 1库里有没有正确答案
  2. 2检索有没有找到它
  3. 3找到后有没有排到前面
  4. 4模型基于材料有没有答对 很多团队直接从第 4 层开骂。

结果钱花了,病根还在第 1 或第 2 层。

二、分块:最容易被低估的差距

分块太大:

一段里什么都有,相似度看着行,真正关键句被淹没。

分块太小:

句子孤立,缺前后条件,答案像断章取义。

经验上,先保证:

  • 一块尽量讲完一个小点
  • 保留必要标题和上下文
  • 不要把表格和步骤切得面目全非 分块策略一变,效果常比换模型更明显。

三、Embedding 和检索:尺子错了全盘皆偏

两个硬原则:

  1. 1入库和查询必须用同一个 Embedding 模型
  2. 2纯向量检索不是万能 同义词、口语化问题,向量强。

但订单号、错误码、精确型号,关键词往往更稳。

所以生产里常见混合检索:

向量 + 关键词,再融合结果。

只迷信“语义万能”,会在精确匹配场景里反复栽跟头。

四、重排、改写、压缩:把噪声打下去

召回只是第一轮“广撒网”。

后面还常见三板斧:

# 查询改写

用户问得太短、太口语,先补全再检索。

# 重排序 Reranker

对 TopK 精细打分,把真正相关的顶上去。

# 上下文压缩

资料太长就裁,只留能支撑回答的句子。

目标不是塞更多,而是塞得更准。

上下文不是垃圾袋,是工作台。

五、一套可执行的优化顺序

别同时拧十个旋钮。

建议顺序:

  1. 1先抽 50 个真实问题做评测集
  2. 2检查文档覆盖和更新
  3. 3调分块
  4. 4固定 Embedding,对比检索命中
  5. 5加混合检索
  6. 6加重排
  7. 7最后再考虑换生成模型 每一步都看指标:命中率、前三命中、答案可引用率。

没有评测集的优化,叫玄学加班。

六、一个反直觉事实

很多团队换了更强生成模型,正确率几乎不动。

因为瓶颈在“资料有没有被正确送到模型眼前”。

这就像给厨师换更好的锅,但不解决买菜和备菜问题。

菜不对,锅再好也炒不出目标味道。

所以评估时请同时看:

  • 检索命中了吗
  • 命中的段落够不够支撑答案
  • 最终答案有没有用这些段落

只看最终答案,会误判责任人。

关键结论

RAG 答得差,模型当然可能有锅。

但更常见的是:文档、分块、检索、排序、上下文组装,其中一环先翻车。

先修链路,再升级模型。

这顺序能省下大量预算和扯皮时间。

学AI大模型的正确顺序,千万不要搞错了

🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!

有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!

就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!

我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

返回列表