1. 理解Dify的模型供应商体系
在开始配置之前,我们需要先理解Dify平台与AI模型之间的关系。Dify本身是一个模型无关的平台,它不内置任何AI模型,而是通过"模型供应商"这一概念来连接各种AI服务。
1.1 模型供应商的核心作用
模型供应商在Dify架构中扮演着桥梁角色,它负责:
- 提供API接口的标准化封装
- 处理认证和授权流程
- 转换不同供应商的API响应格式
- 管理模型的生命周期和状态
这种设计使得Dify可以灵活支持各种AI服务提供商,从商业API到开源模型都能无缝集成。
1.2 两种配置模式详解
Dify支持两种主要的模型供应商配置方式:
预定义模型供应商
这类供应商已经由Dify团队预先集成,用户只需要提供API Key即可使用。典型代表包括:
- OpenAI (GPT系列)
- Anthropic (Claude系列)
- Google (Gemini)
特点:
- 开箱即用,配置简单
- 模型列表由供应商预先定义
- 通常有完善的文档支持
自定义模型供应商
这类供应商需要用户手动指定模型参数,适合:
- 本地部署的模型(Ollama)
- 私有化部署的服务
- 新兴的或小众的AI服务
配置时需要提供:
- 模型名称(必须与后端完全一致)
- 服务器地址
- 必要的认证信息
1.3 六种模型类型及其应用场景
Dify将AI模型按功能划分为六种类型,每种类型对应不同的应用场景:
| 模型类型 | 主要用途 | 典型应用场景 | 代表模型 |
|---|---|---|---|
| LLM | 文本生成、对话推理 | 聊天机器人、内容创作 | GPT-4, Claude 3 |
| Text Embedding | 文本向量化 | 知识库检索、语义搜索 | text-embedding-3-small |
| Rerank | 检索结果重排序 | 提升RAG系统准确率 | Cohere Rerank |
| Speech2Text | 语音转文字 | 会议记录、语音助手 | Whisper |
| TTS | 文字转语音 | 语音播报、有声内容 | OpenAI TTS |
| Moderation | 内容审核 | 社区管理、内容过滤 | OpenAI Moderation |
提示:构建知识库应用时,至少需要配置一个LLM和一个Text Embedding模型。Rerank模型虽非必需,但能显著提升检索质量。
2. 配置OpenAI供应商的完整指南
OpenAI是目前最流行的模型供应商之一,其GPT系列模型在各类NLP任务中表现优异。下面详细介绍配置流程。
2.1 获取API Key的注意事项
- 访问OpenAI平台(https://platform.openai.com)
- 登录后进入"API Keys"页面
- 点击"Create new secret key"按钮
创建密钥时的最佳实践:
- 为密钥设置描述性名称(如"dify-prod")
- 根据使用场景设置适当的权限范围
- 记录创建日期以便后续管理
- 考虑创建多个密钥用于不同环境(开发/测试/生产)
重要:API Key只在创建时显示一次,请立即妥善保存。如果丢失,需要重新创建。
2.2 Dify中的详细配置步骤
- 登录Dify控制台
- 点击右上角用户头像 → 选择"设置"
- 在左侧菜单选择"模型供应商"
- 找到OpenAI卡片 → 点击"配置"
- 填写表单:
- 凭证名称:建议使用有意义的命名(如"生产环境OpenAI")
- API Key:粘贴之前获取的密钥
- 点击"验证并保存"
配置完成后,系统会自动:
- 验证API Key的有效性
- 获取该密钥可用的模型列表
- 加密存储凭证信息
- 更新前端显示状态
2.3 配置验证与问题排查
成功配置后,你应该能看到:
- OpenAI卡片显示绿色激活状态
- 模型列表中包含GPT-4o、GPT-4等模型
- 每个模型旁边有启用/禁用开关
常见问题及解决方法:
| 问题现象 | 可能原因 | 解决方案 |
|---|---|---|
| 验证失败 | API Key错误 | 检查密钥是否正确复制 |
| 模型列表为空 | 账号权限不足 | 检查OpenAI账号的订阅状态 |
| 请求超时 | 网络问题 | 检查网络连接,特别是代理设置 |
| 配额不足 | 免费额度用完 | 升级OpenAI账号或等待下月重置 |
3. 国产模型供应商配置详解
对于中文场景,国产模型往往能提供更好的本地化支持和更低的延迟。以下是主流国产模型的配置方法。
3.1 通义千问(Qwen)配置
- 访问阿里云DashScope平台(https://dashscope.aliyun.com)
- 获取API Key
- 在Dify中添加"通义千问"供应商
- 填写DashScope API Key
可用模型:
- qwen-max (最强能力)
- qwen-plus (平衡型)
- qwen-turbo (经济型)
- qwen-text-embedding (向量模型)
3.2 智谱AI(ChatGLM)配置
- 登录智谱AI开放平台(https://open.bigmodel.cn)
- 获取API Key
- 在Dify中添加"ZHIPU AI"供应商
- 填写API Key
可用模型:
- GLM-4 (最新旗舰)
- GLM-4-Flash (轻量版)
- GLM-3-Turbo (上一代)
3.3 深度求索(DeepSeek)配置
- 访问DeepSeek官网(https://platform.deepseek.com)
- 获取API Key
- 在Dify中添加"DeepSeek"供应商
- 填写API Key
可用模型:
- deepseek-chat (通用对话)
- deepseek-reasoner (复杂推理)
3.4 百度文心一言(ERNIE)配置
- 登录百度智能云千帆平台(https://cloud.baidu.com/product/wenxinworkshop)
- 获取API Key和Secret Key
- 在Dify中添加"百度千帆"供应商
- 填写两个密钥字段
可用模型:
- ERNIE-4.0 (最新版)
- ERNIE-3.5 (稳定版)
4. 本地模型部署与配置
对于数据敏感或希望完全掌控模型的用户,可以在本地部署开源模型并通过Ollama接入Dify。
4.1 Ollama安装与配置
安装步骤
# Linux/macOS curl -fsSL https://ollama.ai/install.sh | sh # Windows (PowerShell) winget install ollama.ollama常用命令
# 拉取模型 ollama pull qwen2.5:7b # 运行模型 ollama run qwen2.5:7b # 查看已安装模型 ollama list4.2 Dify中配置Ollama
- 在模型供应商页面找到Ollama
- 点击"添加模型"
- 填写配置:
- 模型名称:必须与ollama list显示的名称完全一致
- 模型类型:根据实际用途选择
- 服务器地址:
- 本地运行:http://localhost:11434
- Docker环境:http://host.docker.internal:11434
4.3 推荐的开源模型
| 模型名称 | 适用场景 | 内存需求 | 特点 |
|---|---|---|---|
| qwen2.5:7b | 中文对话 | 16GB+ | 优秀的中文理解能力 |
| llama3.1:8b | 通用任务 | 16GB+ | 均衡的性能表现 |
| mistral:7b | 英文任务 | 12GB+ | 高效的推理速度 |
| nomic-embed-text | 文本向量化 | 8GB+ | 不错的embedding效果 |
5. 高级配置技巧
5.1 模型负载均衡配置
当业务量较大时,单个API Key可能遇到速率限制。Dify支持为同一模型配置多个Key实现负载均衡。
配置步骤:
- 进入目标模型的配置页面
- 启用"负载均衡"开关
- 添加多个API Key
- 设置每个Key的权重(可选)
负载均衡策略:
- 轮询(Round Robin)分发请求
- 自动跳过被限流的Key
- 冷却期结束后自动恢复
5.2 系统默认模型设置
建议为每种模型类型设置默认选项:
- 进入"设置" → "模型供应商"
- 点击顶部的"系统模型设置"
- 为每种类型选择默认模型
典型配置方案:
- LLM: GPT-4o或qwen-max
- Text Embedding: text-embedding-3-small
- Rerank: bge-reranker-large
- TTS: OpenAI TTS-1
5.3 模型配额监控
Dify提供了模型使用情况的监控:
- 每个API Key的调用次数
- 令牌消耗统计
- 错误率监控
可以通过以下路径查看: 设置 → 模型供应商 → 点击具体供应商 → 使用情况统计
6. 配置检查清单
完成配置后,请逐一核对以下事项:
- 至少一个LLM模型可用
- 如使用知识库,至少一个Text Embedding模型可用
- 系统默认模型已设置
- API Key有足够的配额
- 网络连接正常(特别是本地模型)
- 各模型的状态显示为"active"
常见问题快速排查:
| 问题 | 检查点 |
|---|---|
| 模型不可选 | 检查供应商配置状态、模型启用状态 |
| 请求超时 | 检查网络连接、代理设置 |
| 返回错误 | 检查API Key配额、模型权限 |
| 性能不佳 | 尝试更换模型、检查负载均衡配置 |
7. 最佳实践建议
- 生产环境建议配置至少两个不同的供应商,确保高可用性
- 根据业务场景选择合适的模型规格,不必一味追求最大模型
- 定期轮换API Key,特别是使用频率高的场景
- 为不同环境(开发/测试/生产)使用不同的供应商配置
- 关注各平台的费率变化,优化成本结构
通过以上步骤,你应该已经成功配置了Dify的模型供应商,可以开始构建各种AI应用了。如果在配置过程中遇到任何问题,建议查阅Dify官方文档或社区论坛获取最新支持信息。