【Java AI】大模型应用开发术语概念 技术栈【一】核心术语概念大全1. 基础大模型概念2. RAG 检索增强生成Retrieval‑Augmented Generation3. Agent 智能体4. Skill / Tool / Plugin5. Workflow / Chain 链路编排6. AI应用开发框架Java生态7. 其他关键概念8. 区分Python AI vs Java AI开发【二】学习路线阶段1前置准备阶段2Spring AI入门阶段3RAG检索增强生成阶段4Function Calling / Tool工具调用4‑6天Agent基础阶段5Agent智能体开发7‑10天难度较高阶段6编排Workflow / Chain 与工程化落地生产重点7天阶段7完整综合项目最重要阶段8进阶拓展选学【三】学习资源推荐文档重点提示Java开发踩坑点定位Java后端如何对接大模型开发Agent、RAG、AI应用、智能业务系统属于大模型应用层开发。核心Java不做模型训练做AI应用编排、业务集成、工具调用、知识库、Agent编排、服务封装。【一】核心术语概念大全1. 基础大模型概念LLM 大语言模型Large Language Model大语言模型基于Transformer输入文本输出文本。例如GPT‑4o、通义千问、DeepSeek、Qwen。Java侧只做调用不训练。Prompt 提示词给大模型的输入指令分为指令prompt、Few‑shot、CoT思维链。Token模型的最小处理单元中文1个汉字≈1.5token输入输出token计费有上下文窗口限制。上下文窗口(Context Window)模型一次能接收的最大token数量超过就会截断历史对话。Temperature温度参数0~1越低回答越确定、确定性强越高创造性越强。System Prompt系统提示词设定角色、规则、约束全局生效。Few‑Shot 少样本提示给模型几个示例让模型模仿格式输出。CoT 思维链 Chain‑of‑Thought让模型一步步思考提升复杂推理能力。Function Calling / Tool Call 工具调用非常重要Agent的基础。大模型本身不会访问数据库、调用接口、查询数据通过工具调用模型输出工具名称参数程序执行工具再把结果塞回给大模型生成最终回答。模型输出JSON工具参数 → Java后端解析 → 调用业务接口/SQL → 返回结果给LLM。2. RAG 检索增强生成Retrieval‑Augmented GenerationRAG知识库问答解决大模型幻觉给大模型私有业务数据。核心逻辑用户提问 → 把问题向量化从私有知识库检索相关文档片段 → 将检索片段用户问题一起丢给LLM → LLM基于检索到的真实资料回答。幻觉(Hallucination)大模型编造不存在的事实RAG用来缓解幻觉。向量数据库 Vector Database存储文本向量做相似度检索。Java常用Milvus、Chroma、PGVector(postgres插件)。Embedding 嵌入/向量化把一段文本转换成固定长度浮点数向量语义相近向量距离近。调用Embedding模型API生成向量。Chunk 文本分块长文档切割成小块再向量化入库分块策略块大小、重叠度直接影响RAG效果。召回(Retrieval)向量库根据向量相似度拿到topN文档片段。重排序 Rerank召回之后再用rerank模型二次打分筛选提升RAG准确率。RAG 两种架构Naive‑RAG简单RAGAdvanced‑RAG高级RAG查询改写、重排、多轮检索3. Agent 智能体Agent LLM 记忆Memory 工具Tool 规划Planning 反射Reflection。大模型自主思考自主决定调用哪些工具循环迭代直到完成任务不是单次问答。Agent 智能体具备思考、规划、调用工具、迭代完成复杂任务的AI主体。Planning 任务规划把大任务拆解多个子任务。ReAct推理行动Reason Act最经典Agent范式思考→调用工具→观察结果→再思考循环。CoT、ToT思维树Tree‑of‑Thought复杂任务多分支思考。Memory 记忆Short‑term Memory短期记忆对话上下文本次会话历史。Long‑term Memory长期记忆持久化到数据库跨会话记忆。Vector Memory把记忆向量化存入向量库。Reflection 自我反思Agent做完任务自我复盘错误优化下一轮输出。Multi‑Agent多智能体多个Agent分工协作比如规划Agent、检索Agent、代码Agent互相配合完成复杂业务。Agent State Agent状态保存Agent执行中间状态Java开发需要持久化状态避免重启丢失。4. Skill / Tool / PluginSkill 技能面向业务能力封装一个Skill是一组能力比如查询订单、查询库存、生成报表。Skill可以封装多个Tool。Tool工具最小可调用单元一个函数比如查询数据库、调用http接口。对应Function Calling。Plugin插件第三方扩展工具集合。5. Workflow / Chain 链路编排Chain 链路LangChain概念把多个步骤串联比如文档加载→分块→向量化→检索→LLM生成一个链式执行流程。Workflow工作流更复杂支持分支、条件判断、循环Java中用编排框架定义AI业务流程。Graph 图编排LangGraph用图定义Agent流转节点边条件跳转现代Agent主流实现。6. AI应用开发框架Java生态Spring AI【Java官方首选】Spring官方AI框架Spring全家桶风格统一封装LLM、Embedding、RAG、ToolCall屏蔽不同大模型厂商API差异。支持OpenAI、通义千问、DeepSeek、Ollama本地模型。重点Java开发者优先学Spring AI。LangChain4jJava版LangChain对标Python LangChainAgent、RAG、Memory、Tool调用能力齐全社区活跃。对比新项目优先Spring AI复杂Agent场景LangChain4j能力更强。Ollama本地运行大模型一键在本机部署Qwen、Llama对外提供OpenAI兼容http接口Java直接调用不需要云API密钥本地调试非常方便。7. 其他关键概念Prompt Template提示模板模板占位符动态填充检索内容、用户问题生成最终发给LLM的prompt。Output Parser输出解析器把LLM自然语言输出解析成Java对象(JSON→POJO)处理模型输出不稳定。Streaming流式输出SSE大模型token逐字返回聊天页面打字机效果Java后端SSE推送到前端。Guardrails安全护栏输入输出校验防止敏感内容、越权请求。Rerank重排序模型对召回的文档重新打分排序提升RAG精度。PGVectorPostgreSQL向量扩展不用额外部署向量库适合中小体量知识库。Milvus高性能开源向量数据库生产级大规模RAG知识库。LLM Observability AI可观测性记录prompt、token消耗、耗时、RAG召回文档工具Langfuse。排查AI业务问题必备。Multi‑modal多模态模型支持图片、音频输入输出。Agentic RAGAgentRAG结合检索不再固定流程Agent自主判断什么时候检索、检索几次。8. 区分Python AI vs Java AI开发维度PythonJava AI应用开发擅长模型训练、算法原型、快速实验生产业务系统、高并发、微服务、集成已有业务系统框架LangChain、LlamaIndexSpring‑AI、LangChain4j定位算法原型、调prompt线上服务、权限控制、事务、监控、高可用、对接公司数据库Java工程师不用学模型训练聚焦应用层。【二】学习路线整体阶段基础概念 → API调用 → RAG知识库 → ToolCall工具调用 → Agent智能体 → 工程化生产落地 → 项目实战。阶段1前置准备搞懂上面术语概念LLM、token、embedding、RAG、Agent、Function‑Calling。会使用大模型API通义千问、DeepSeek看懂API入参出参。环境SpringBoot基础熟练会Postman调用LLM接口安装Ollama本地跑模型做调试。Ollama好处本地模型调试不用花钱接口兼容OpenAI格式。练习小demo手写HTTP调用大模型API实现SSE流式输出简单prompt调优。阶段2Spring AI入门Spring AI基础引入依赖对接云端大模型/Ollama本地模型。基础能力PromptTemplate、输出解析器、POJO结构化输出。流式SSE输出实现聊天打字机效果。Embedding调用生成文本向量。实战小项目简单对话聊天服务SSE流式返回返回结构化JSON对象。阶段3RAG检索增强生成RAG完整链路文档加载 → Chunk分块策略 → Embedding生成向量 → 向量库存储 → 用户query向量化 → 相似度召回 → Rerank重排 → 组装prompt交给LLM。向量库选型学习PGVectorPostgres插件快速上手不需要部署新服务了解Milvus生产向量库。Spring AI / LangChain4j实现Naive‑RAG。调优实践分块大小、重叠度、召回topN、rerank开启关闭理解各个参数对回答效果的影响。问题幻觉、召回不准怎么排查。实战项目私有知识库问答系统上传markdown文档基于文档回答问题。阶段4Function Calling / Tool工具调用4‑6天Agent基础理解工具调用完整流程模型输出工具参数 → Java解析执行业务方法 → 返回结果再次送入大模型。Spring AI Tool Call把Java方法包装成工具让大模型自动调用。实战场景AI查询订单、AI查询库存大模型根据用户问题自动调用数据库查询。坑点模型不调用工具、参数解析错误、工具返回结果过大。实战项目AI客服用户自然语言查询订单自动调用数据库查询返回结果。阶段5Agent智能体开发7‑10天难度较高学习ReAct范式理解Agent循环思考‑行动‑观察流程。Memory记忆实现短期会话记忆、持久化长期记忆。Spring AI Agent / LangChain4j Agent开发。Agent状态持久化Agent执行一半服务重启恢复状态继续执行。Agentic‑RAGAgent自主判断什么时候检索知识库。了解Multi‑Agent多智能体分工。实战项目个人业务助手Agent可自主调用知识库、调用订单接口、多次循环完成复杂任务。阶段6编排Workflow / Chain 与工程化落地生产重点7天Chain、Workflow工作流编排条件分支循环逻辑。AI业务工程化要点Token统计、计费超时、限流、熔断可观测性记录prompt、召回文档、模型返回接入Langfuse输入输出安全校验Guardrails会话持久化会话存储向量库性能调优并发场景下Agent状态管理。模型降级策略云端大模型不可用切换本地Ollama模型。阶段7完整综合项目最重要综合项目参考选题Java SpringAI企业知识库问答RAG系统最经典入门项目AI客服AgentRAG知识库 Tool调用查询业务数据库智能数据分析Agent用户自然语言Agent生成SQL查询数据库返回结果。阶段8进阶拓展选学LangGraph4j图编排复杂Agent工作流。Multi‑Agent多智能体协作。多模态能力图片理解。私有模型部署运维Ollama、vLLM。【三】学习资源推荐文档Spring AI 官方文档https://spring.io/projects/spring‑aiLangChain4j 官网https://docs.langchain4j.dev/Ollama官网https://ollama.com/重点提示Java开发踩坑点Java不要去学Python LangChain直接学LangChain4j / Spring‑AI避免两套体系混淆。Agent最大难点不是API调用而是状态持久化、工具调用异常处理、prompt调优、Agent循环终止条件。RAG大部分业务问题不是代码问题是分块策略、召回质量、prompt模板的问题。不要迷信Agent简单业务优先RAG ToolCallAgent适合复杂多步骤任务。学习避坑路线❌错误路线上来直接啃Agent多智能体代码写一堆不懂RAG、ToolCall基础。✅正确路线普通对话 → RAG知识库 → Tool工具调用 → Agent智能体循序渐进。