一、RAG 系统性能瓶颈核心分析
1. 系统三大核心阶段与瓶颈点
RAG 系统的响应速度与稳定性由文档入库、检索召回、生成推理三大阶段共同决定，各阶段瓶颈如下：
| 阶段 | 核心流程 | 关键性能瓶颈 |
|---|---|---|
| 文档入库 | 文档解析→分块→摘要提取→向量化→数据存储 | 海量文档重复处理、内存占用过高、系统重启需重新计算（无持久化） |
| 检索召回 | 多检索器协同（向量匹配 / 关键词匹配 / QA 段落匹配）→高维向量检索 | 索引结构不合理、检索算法未优化、磁盘 I/O 延迟（无高效存储） |
| 生成推理 | 召回结果拼接提示词→大模型生成→流式输出 | 模型推理速度慢、前端检索延迟累积、中间阶段（问题重写 / 信息提取）模型耗时高 |
RAG 系统的运行效率受到多个维度的制约，任一环节掉链子，都会造成响应瓶颈。