尧图网站建设 尧图网络
  • 首页
  • 关于我们
  • 服务项目
  • 案例展示
  • 建站流程
  • 资讯中心
  • 联系我们
首页/资讯中心/详情

RAG学习道路

RAG学习道路
📅 发布时间:2026/6/18 8:53:02
RAG学习道路

数据准备阶段

加载原始文档
使用来自langchain_community.document_loaders的各种Loader,
如:UnstructuredMarkdownLoader,TextLoader等.
传入参数一般为文件路径如:
"../../data/C1/markdown/easy-rl-chapter1.md"

文本分块(Chunking)
为了便于后续嵌入与检索,长文档被分割成较小的文本块(chunks)。
经常使用递归字符分割:RecursiveCharacterTextSplitter()。
其默认行为旨在最大程度保留文本的语义结构:
https://datawhalechina.github.io/all-in-rag/#/chapter2/05_text_chunking

实际应用实例:
text_splitter = CharacterTextSplitter( chunk_size=200, # 每个块的大小 chunk_overlap=50 # 块之间的重叠大小 )
其中,chunk_overlap是为了保证上下文连续性的参数,其实现的思路为:

块编号 覆盖的字符区间 说明
第1块 0 ~ 199 从开头取200个字符
第2块 150 ~ 349 向后滑动 200 - 50 = 150 个字符
第3块 300 ~ 499 再滑动 150 个字符
👉 每个块都与前一个块有50个字符的重叠部分(即 chunk_overlap)
这意味着如果一段话跨越了两个块的边界,
模型在处理第2块时依然能看到第1块的结尾,从而理解上下文。
它本质上是一个滑动窗口的步长控制机制。

相关新闻

  • 2025年声学指纹在线监测系统公司,在线监测系统哪家公司的服务周到?
  • HAwebsso.nl未受保护API端点泄露1.5万医生凭证数据
  • 2025 年 11 月广州装修公司最新推荐:5 大品牌专业测评,选品参考指南

最新新闻

  • 基于DPDK与OVS-DPDK构建高性能虚拟化网络数据平面实践
  • 西安定制私家团旅行社排行:5家正规机构深度对比 - 起跑123
  • 2026 郑州管城回族区回收渠道测评|上门邮寄品牌排行榜推荐 - 奢侈品回收
  • 2026年《无畏契约》游戏鼠标推荐:新手入门性价比高值得买 - GrowthUME
  • 【2026年6月】中型货架厂家与仓储货架企业推荐指南 - 多才菠萝
  • 2026大连黄金回收市场大整治!正规甄别标准出炉,避坑不踩雷 - 奢侈品回收评测

日新闻

  • 2026年不锈钢卷板厂家推荐排行榜:冷轧热轧/304/201不锈钢卷板,高颜值耐腐蚀源头厂家实力精选 - 企业推荐官【官方】
  • FLUX.1-dev FP8模型实战指南:24GB以下显卡高效部署方案
  • 2026佛山长途搬家价目表:跨省跨市搬家费用完整计算指南 - 从来都是英雄出少年

周新闻

  • 3步解锁iOS设备:applera1n激活锁绕过完全指南
  • 39 2026 人工智能证书终极盘点,普通人选 AI 证书可以从这些方向入手
  • Redis 暴露公网有多危险?从端口检查到补救步骤

月新闻

  • 【总结】入门篇:50句话让你记住架构核心概念
  • WeChatMsg技术方案解析:实现Mac微信数据自主管理的完整解决方案
  • WeChatMsg:革新性微信数据备份方案,打造你的专属数字记忆库

关于尧图

  • 公司简介
  • 团队介绍
  • 企业文化
  • 荣誉资质

服务项目

  • 定制开发
  • 电商建站
  • UI 设计
  • 运维服务

快速链接

  • 案例展示
  • 建站流程
  • 常见问题
  • 资讯中心

联系方式

  • 📍北京市朝阳区互联网产业园 A 座 10 层
  • 📞400-888-8888
  • ✉️contact@rkmt.cn
  • 🕐周一至周日 9:00-21:00

© 2024 北京尧图网络科技有限公司 版权所有 | 京 ICP 备 XXXXXXXX 号