)
前面分享了项目的大致流程,这篇主要分享一下LangChain这个框架的个人简单理解.
看懂这篇必须要看我之前发的二,这样便于更好的理解这个框架.
一.简述
1.什么是LangChain
简单来说,LangChain是LLMs的开发框架,他为不同的LLMs提供统一的接口,并且把和LLMs相关的内部组件连接在一起.
2.为什么要学习LangChain
现在大模型金盆始发站,每家大模型的种类繁多,很难说去使用一家产品就去重头开始学习这个模型的API.LangChain提供了一个不用模型的通用的接口.
二.LangChain详解
1.LangChain组成
LangChain实际上就是RAG思想的实现.LangChain作为一个框架,由众多包组成,其中最重要的包有三个.
- LangChain-core
这个包的主要作用是提供底层图纸和通用接口
- LangChain
这个包主要是链接各个模块
- LangChain-community
这个包主要是负责对接第三方的资源
个人建议可以把LangChain这个框架理解为由这三个盒子堆起来的,每个盒子各司其职.
2.LangChain模块
首先是一张LangChain的总体思想图,这张图很好的体现了LangChain这个框架就是RAG思想的实现
下面这张则是LangChain内部的各个模块
总的来看,LangChain由六个模块组成,分别是models,prompt,index,memory,chains,agent.
下面我来详细分析一下各个模块的作用.
1.models模块
models模块主要是存放不同的LLMs,然后提供对外的统一接口.作用相当于是LangChain的大脑,主要负责的是对输入的prompt进行处理输出结果
2.prompt模块
prompt模块主要是对models提供指引信息,引导models输出正确的答案
3.index模块
index模块是把外部知识库转换为模型熟悉的格式,模型是向量,所以index也是向量
4.memory模块
memory模块是保存之前信息的模块.
提起这个模块,我记得这里还有一道面试题.项目经理问:我的儿子喜欢和豆包玩,为什么一个月以后豆包还记得我的儿子之前说过的话?答案就是Models的Memory模块.大模型会自动总结长文本,为之后生成信息提供参考.
5.chains模块
chains模块的理解还是比较简单的,主要负责把各个模块链接起来.但是实现起来是比较麻烦的.
这里我提供一个简单的理解方法:
比如说(让模型在<三国演义>里面找出借东风的情节(index),结果之前聊的三国人物(memory)最后生成一段故事讲解(model)),chains会自动把这些模块连起来做.
6.Agent模块
Agent模块的作用比较抽象,他是让model自己决定先做哪一个模块,后做哪一个模块,相当于告诉大模型你的执行顺序.