察元AI超级智能体如何从安装离线大模型 ,不依赖外部大模型 数据不出域进行知识问答
“察元AI超级智能体”是一套完整的开源AI办公解决方案,覆盖从“安装 → 配置 → 离线模型部署 → 完全离线使用 → 实现数据不出域知识问答”的全流程。
🚀 第一步:安装与配置
“察元AI桌面单机版”是一个开箱即用的桌面应用,安装过程非常便捷。
- 获取安装包:前往项目的官方发布页 https://github.com/zhgyuhuii/chayuan-desktop-releases,下载适用于您操作系统的安装包:
· Windows:下载 .msi 文件。
· macOS:下载 .dmg 文件。
· Linux (包括国产系统):下载 .deb 或 .AppImage 文件。 - 安装与首次启动:
· 安装:双击下载的安装包,按照向导完成安装。安装过程无需联网。
· 启动:双击桌面上的“察元AI”图标启动程序。 - 首次运行设置 (FirstRunSetup):首次启动会弹出设置向导,关键一步是设定你的“数据根目录”(环境变量 CHAYUAN_ROOT)。之后,程序会自动启动内置的后端服务(Sidecar),监听 127.0.0.1:62581。
🤖 第二步:安装本地离线大模型
要实现完全离线,关键是在本机安装一个大型语言模型(LLM)服务,Ollama是最主流的选择。
- 在“中转机”上安装并下载模型:
· 在一台可联网的电脑上安装Ollama。
· 打开终端(CMD或PowerShell),使用 ollama pull <模型名称> 命令下载你需要的模型。例如,下载轻量高效的qwen2.5:7b模型,可执行:ollama pull qwen2.5:7b。
· 模型下载后,需找到其在本机的存储路径并导出。一个典型路径是 ~/.ollama/models/。 - 将模型迁移到目标机器:
· 将导出的模型文件拷贝到目标机器(无网络)的相应目录。
🗺️ 第三步:从安装到应用的路线图
你可以根据自身情况选择路径:
💎 第四步:核心应用之知识问答(RAG)
“察元AI超级智能体”的真正价值在于其强大的“本地离线知识库”功能,即RAG,让你能用自然语言“对话”自己的文档。其核心隐私承诺是:所有数据,包括对话历史、知识库、模型密钥等,均存储在本地由你指定的目录中,默认不会上传至任何云端服务。
- 构建知识库 (Knowledge Base):
· 在察元主界面,直接拖拽本地的PDF、Word、Excel、PPT、Markdown等文件到对话窗口中。
· 拖拽时,程序会自动触发入库任务,依次完成文本抽取、智能切片(Chunking)、向量计算(Embedding)和存储索引。 - 进行知识问答:
· 创建新对话:点击“新建对话”。
· 选择模型:在对话界面顶部,确保选中的是你配置好的本地Ollama模型,以实现完全离线问答。
· 选择知识库:勾选你刚才构建好的知识库。
· 提问:在输入框中用自然语言提出你的问题。 - 溯源与验证:回答会附上“引用气泡”,注明信息来源。点击任意一个引用气泡,即可在右侧弹出原文面板,并高亮定位到具体段落,让你能快速核实答案的准确性。
💎 总结
为了让你更清晰地把握全流程,这里有一个高度精炼的总结:
· 📦 安装与配置:GitHub下载安装包 → 首次启动选好数据目录。
· 🤖 部署离线模型:在中转机下载模型 → 迁移至目标机 → 在察元中配置Ollama连接。
· 💎 核心应用(RAG):拖拽文档自动构建知识库 → 新建对话并选择知识库 → 提问并溯源原文。
希望这份详细的全流程指南,能帮助你在保障数据绝对安全的前提下,顺利体验到“AI+私有知识库”带来的效率革命。
