尧图网站建设 尧图网络
  • 首页
  • 关于我们
  • 服务项目
  • 案例展示
  • 建站流程
  • 资讯中心
  • 联系我们
首页/资讯中心/详情

本地部署DeepSeek-R1 Windows电脑

本地部署DeepSeek-R1 Windows电脑
📅 发布时间:2026/8/3 6:26:39

了解一下大模型是个什么东西

llama

个人理解:这个是大模型的运行环境
以下解释来自网络:
这个单词原本是 Large Language Model Meta AI 的缩写,意思是“Meta 公司推出的大语言模型”。
为什么叫这个名字? 因为 Meta(也就是 Facebook 的母公司)在 2023 年推出了一款名为 LLaMA 的开源大模型。相比当时动辄几千亿参数的 ChatGPT,Meta 发布的 70 亿、130 亿参数的小模型效果惊人,瞬间引爆了整个开源 AI 圈。
为什么项目叫 llama.cpp? 因为作者 Georgi Gerganov 最初开发这个工具,目的就是为了在 C++ 环境下运行 Meta 的 LLaMA 模型。虽然现在这个工具已经能跑几百种其他模型(比如您正在跑的 DeepSeek 和 Qwen),但“Llama”这个名字作为元老被保留了下来。

环境搭建

1、下载deepseek最小的大模型文件

DeepSeek-R1-Distill-Qwen-1.5B-Q4_K_M.gguf
下载地址:https://hf-mirror.com/bartowski/DeepSeek-R1-Distill-Qwen-1.5B-GGUF
巡迅雷下载快,下载完成文件大小大概1.1G。

2、下载llama.cpp执行程序

直接下载压缩包解压即可:llama-b10223-bin-win-cpu-x64.zip
下载地址:https://github.com/ggml-org/llama.cpp/releases

3、尝试启动大模型

将下载的 gguf 文件放到 llama-b10223-bin-win-cpu-x64.zip 解压后的目录下,在解压后的而目录下打开cmd黑框,执行命令:llama-cli -m DeepSeek-R1-Distill-Qwen-1.5B-Q4_K_M.gguf -ngl 0 -p "你好,请介绍一下你自己"

llama-cli 这是 llama.cpp 编译出的命令行交互程序 -m 是 --model(模型)的缩写 ngl 是 --n-gpu-layers 的缩写;指定有多少层神经网络要放到显卡(GPU)上跑 -p 是 --prompt(提示词)的缩写

4、启动一个Web服务

执行:llama-server -m DeepSeek-R1-Distill-Qwen-1.5B-Q4_K_M.gguf -ngl 0 -c 2048 --temp 0.5 --host 0.0.0.0 --port 8080

llama-server 启动 llama.cpp 中的 Web 服务端程序 -c 是 --ctx-size(上下文长度)的缩写 --temp 0.5 控制回答的“发散度”和“稳定度”数值越低(如 0.1~0.2),模型越死板,数值越高(如 0.8~1.0),模型越“乱来” --host 0.0.0.0 允许局域网/外网访问;果写 127.0.0.1,则只有本机电脑能访问。写成 0.0.0.0,意味着这台电脑所在局域网内的所有其他设备 --port 8080 监听端口号

5、页面

可以进行一些简单逻辑性问题分析回答。

相关新闻

  • SpringBoot+Vue选课系统架构设计与性能优化
  • 前沿技术借鉴研讨-2026.7.30(妊娠自杀未遂风险的性别差异/妊娠期高血压共病风险)
  • Python薪资飙到200万,2025年不学它等于跟钱过不去

最新新闻

  • 解决Matplotlib中文字体显示问题的跨平台方案
  • 存储型XSS攻击原理与防御实战:从DVWA靶场到企业级防护
  • Windows 11 Insider 实验预览版 26300.9032 基于26100.6(检查点26100.1746)
  • Java全栈面试题库2026版:从JVM调优到分布式架构
  • 告别网盘限速:8大平台文件下载加速神器使用指南
  • Houdini地形数据跨平台导出:从Heightfield到Copernicus的完整工作流

日新闻

  • 112、LLC谐振变换器的输入电压瞬态仿真分析
  • 2026深圳疑难签证办理指南:拒签再签/商务签/高端定制机构怎么选 - 互联网科技品牌测评
  • C-LODOP在Edge等现代浏览器中的部署、适配与实战应用

周新闻

  • 怀化母婴除甲醛公司测甲醛中心怎么选:康之居母婴除甲醛标准、流程、避坑指南 - 信誉隆金银铂奢回收
  • 三步打造你的终极音乐中心:foobox-cn网络电台功能完整指南
  • Lance湖仓格式:为多模态AI工作流设计的终极数据存储方案

月新闻

  • ClickHouse版本管理深度实战:4步构建零风险升级与回滚体系
  • Java 23 种设计模式:从踩坑到精通 | 番外:责任链模式 —— 物流审批流程实战
  • 华硕笔记本性能解放指南:G-Helper轻量级控制工具全面解析

关于尧图

  • 公司简介
  • 团队介绍
  • 企业文化
  • 荣誉资质

服务项目

  • 定制开发
  • 电商建站
  • UI 设计
  • 运维服务

快速链接

  • 案例展示
  • 建站流程
  • 常见问题
  • 资讯中心

联系方式

  • 📍北京市朝阳区互联网产业园 A 座 10 层
  • 📞400-888-8888
  • ✉️contact@rkmt.cn
  • 🕐周一至周日 9:00-21:00

© 2024 北京尧图网络科技有限公司 版权所有 | 京 ICP 备 XXXXXXXX 号