尧图网站建设 尧图网络
  • 首页
  • 关于我们
  • 服务项目
  • 案例展示
  • 建站流程
  • 资讯中心
  • 联系我们
首页/资讯中心/详情

Dify安装与Ollama模型接入

Dify安装与Ollama模型接入
📅 发布时间:2026/7/27 7:53:14

Dify是什么

Dify是一个开源的LLM应用开发平台,帮助开发者快速构建和运营生成式AI应用。

它介于“直接使用大模型”和“从零开发AI应用”之间——你不需要写大量代码,但又能获得比简单Prompt工程更强大的能力。

模块说明
编排(Orchestration)可视化构建AI工作流,支持多步骤推理、条件分支、循环等
RAG(知识检索)

内置文档向量化、分块、重排序,搭建企业知识库问答

Agent模式支持Function Calling、Ract等Agent架构,让AI自主调用工具
Prompt管理版本化Prompt工程,支持A/B测试和迭代优化
运营观测对话日志、标注反馈、持续优化(类似AI产品的“数据飞轮”)
多模型支持兼容OpenAI、Anthropic\Azure、本地模型(Ollama等)、国内模型(通义、文心)

Dify的下载与安装

第一步:下载Docker。Docker快速入门——Windowns系统下Docker安装(理解与完整,附带WSL1如何升级为WSL2)_升级wsl2-CSDN博客

Dify的官方推荐部署方式是基于容器化。

Dify不是单一可执行文件,而且是一个微服务架构应用,包含多个独立进程:API服务、Web前端、Worker、数据库、缓存/消息队列、向量数据库

验证docker

Win+R 输入cmd 执行下面命令

docker --version

如果正常输出版本号即安装成功,开始第二步(类似下图)

第二步:克隆Dify仓库

输入以下命令

git clone https://github.com/langgenius/dify.git

如果无法 clone,可以直接download原始的zip文件(解压缩):

地址 : https://github.com/langgenius/dify.git

访问GitHub地址仓库页面->点击“Code”->选择“Download ZIP”

“实在是下载不了,文章最上方我已经放好资源包,大家点击下载即可”

第三步:

  • 进入到dify文件夹下docker文件夹,将.env.example文件名改为.env
  • (切换到dify/docker文件夹下去操作,可以使用rename .env.example.env)
  • 也可以输入下面命令:
cd dify/docker cp .env.example.env

第四步:启动Dify

  • 在dify文件下进入终端,然后去操作下面的命令
  • 输入下面的命令:
docker compose up -d

第五步:访问应用

地址:http://localhost/signin 第一次需要(除第一次后面只要登录)设置好邮箱、用户名、密码就可以登录了

点击设置->进入开发界面

Dify接入大模型

本地Ollama与API应用

第一步:安装Ollama

Ollama一个用于在本地或云端构建、运行和管理大型语言模型(LLM)的开源工具

下载地址:Download Ollama on macOS

第二步:下载模型

“模型后面的数字越大(8B,12B),对于硬件要求越高”

选择一个模型,随便发送一条消息即可开始下载。

第三步:应用模型

模型下载完毕之后,即可在对话框输入消息开始对话(还可以联网操作)

附ollama常用命令

命令用途示例
ollama run运行模型。若本地无此模型,会自动下载ollama run llama3.2
ollama pull仅下载模型到本地,不立刻运行ollama pull mistral
ollama list/ollama ls列出所有已下载到本地的模型ollama list
ollama ps查看当前正在后台运行的模型列表ollama ps
ollama stop停止一个正在后台运行的模型,以释放资源ollama stop llama3.2
ollama rm删除一个本地模型,以释放磁盘空间ollama rm llava
ollama show查看模型的详细信息,如参数、许可证等ollama show llama
ollama serve启动Ollama的后台服务进程ollama serve
ollama help查看所有可用命令的帮助信息ollama help

第四步:接入模型

点击设置->在安装模型提供商中找到Ollama提供商下载

安装好会出现在模型列表中

点击右下角添加模型

输入前面下载好的准确的模型名称

项目类型有三种可选:

  • LLM:基于 Transformer 解码器的自回归生成模型,通过最大化上下文条件概率进行预训练,承担语义理解与文本生成任务。

  • Text Embedding:基于双编码器架构的稠密向量化模型,经对比学习训练,将文本映射为固定维度向量以支撑海量语义检索。

  • Rerank:基于交叉编码器架构的相关性精排模型,对查询与候选文档进行全交互注意力计算,输出精细相关性分数以优化排序质量。
    (三者级联构成 RAG 的“召回–重排–生成”流水线:Embedding 粗筛,Rerank 精排,LLM 终答。)

不知道选什么就选LLM

注意:基础URL

docker(同一机器)部署dify:hhtp://host.docker.internal:11434

docker(不同机器)部署dify:http://192.168.x.x(自己IP):11434

相关新闻

  • 国产SPC工具在离散制造中的动态控制与边缘计算应用
  • C++异常处理终极防线:std::terminate触发机制与二次异常规避
  • 千笔AI如何解决MBA论文写作五大痛点

最新新闻

  • WSL2环境下USB设备连接解决方案与实践
  • CCF-CSP备战NO.3前缀和与差分
  • NVIDIA vGPU软件栈部署指南:KVM环境下的虚拟GPU解决方案
  • Python NLP实战:从文本分类到模型部署
  • 苏州沿江厂区金属屋面修缮怎么选?2026 全域彩钢瓦除锈防水服务商横向测评 + 太湖盐雾梅雨专属避坑攻略 - 本地便民网
  • MySQL数据库从入门到精通:索引优化、SQL性能与事务原理实战指南

日新闻

  • OpenClaw开源智能体网关:AI助手与即时通讯的完美融合
  • 写一个简单的sh脚本
  • 2026年 西安缝隙天线厂家:5G通信与车载天线专业定制供应商深度分析 - 卓企推荐

周新闻

  • 大连理工大学与东京大学联手打造的“主动型AI助手“
  • 170.2026年国家级科研瓶颈:超精密单点金刚石切削(SPDT)光学表面生成
  • SongBloom:革命性歌曲生成框架深度解析——如何通过交织自回归与扩散模型创作完整音乐

月新闻

  • 2026年6月公司网站搭建最新热门渠道测评:四大低成本/零代码平台对比+避坑
  • 【Linux】Linux arm 编译QT程序,出现expected “}“报错
  • 【MATLAB例程】四基站二维AOA定位与距离辅助增强对比仿真。基于角度观测和测距修正的固定目标平面定位精度分析

关于尧图

  • 公司简介
  • 团队介绍
  • 企业文化
  • 荣誉资质

服务项目

  • 定制开发
  • 电商建站
  • UI 设计
  • 运维服务

快速链接

  • 案例展示
  • 建站流程
  • 常见问题
  • 资讯中心

联系方式

  • 📍北京市朝阳区互联网产业园 A 座 10 层
  • 📞400-888-8888
  • ✉️contact@rkmt.cn
  • 🕐周一至周日 9:00-21:00

© 2024 北京尧图网络科技有限公司 版权所有 | 京 ICP 备 XXXXXXXX 号