8月14日晚阿里千问开源了 Qwen3.8-27B。这是一款 270 亿参数的原生多模态稠密模型支持图像和视频理解原生上下文 262K tokens、可通过 YaRN 扩展到 100 万采用 Apache 2.0 协议——下载、部署、商用全部免费。27B 是开源社区呼声最高的模型尺寸之一对普通开发者来说最实际的信号是量化后约 17GB 显存就能跑家用显卡够得着了。技术本质Agent 能力开始下沉这两年大模型的升级主线是大Qwen3.8 旗舰是 2.4 万亿参数激活 95B的 MoE完整精度要 4.9TB 存储本地基本跑不动。Qwen3.8-27B 反着来Dense 稠密架构270 亿参数全量激活没有 MoE 的门控路由层部署简单得多同时把多模态、长上下文、Agent 能力都塞了进来。从结构上看它延续了 Qwen3.8 系列的技术路线64 层网络、隐藏维度 5120采用 Gated DeltaNet 与 Gated Attention 组合的混合结构并训练了多步 Token 预测MTP能力。相比 MoE 模型Dense 的好处是部署心智负担低——不用处理专家加载策略llama.cpp、Ollama 这类工具支持也更成熟。能力有没有缩水据报道在 SWE-bench Pro 上 Qwen3.8-27B 得 61.7 分超过 Claude Opus 4.6 Max 官方成绩的 53.4OSWorld-Verified电脑操作类任务84.3 分也领先但 Terminal Bench 2.173.0、GPQA Diamond89.2、HLE30.8仍低于 Opus 4.6 Max。结论比较清晰软件工程、电脑操作、长周期办公这类 Agent 任务27B 已经摸到甚至超过部分闭源旗舰科学推理和高难综合推理还有差距。报道里也提醒这些 benchmark 成绩主要来自千问官方测试第三方独立验证还在路上先别急着下结论。和上一代 Qwen3.6-27B 比进步是实打实的SWE-bench Pro 从 53.5 提到 61.7新增了 reasoning_effort 参数可以按任务难度调节思考深度省 token 也省显存——这对本地部署用户是有用的细节。对打工人意味着什么免费 商用无限制Apache 2.0 协议个人、公司都能用不用看 API 价格脸色。数据不出门代码、文档、截图都能在本地处理对数据敏感的场景内部代码、客户资料是刚需。成本可控不按 token 付费电费和显卡钱就是全部成本。社区里已经有开发者把它接进编程工具做零 API 费用 数据不出门的本地编程助手。这次开源也不是孤例。据报道此前千问已经开源了 Qwen3.8-2.4T-A95B 权重8 月 3 日发布的 Qwen3.8-Max 所基于的底座累计开源模型超 460 个Qwen 系列全球下载量超 30 亿次、衍生模型超 30 万个。从 2.4T 到 27B覆盖的是不同档位的需求要顶级能力用大 MoE要自托管用 Dense 小模型。对打工人来说多一个能本地跑的选择就多一分议价空间——不管是对 API 价格还是对公司迟迟不批的显卡预算。怎么跑三个档次的部署方案方案一GGUF 量化 llama.cpp个人最常用先从魔搭或 HuggingFace 下载量化权重Unsloth 已放出 Q4_K_M 等 20 多种量化版本Q4_K_M 约 17GB具体仓库路径以发布页为准gitlfsinstallgitclone https://modelscope.cn/models/Qwen/Qwen3.8-27B-GGUF.git编译或下载预编译的 llama.cpp 后启动推理服务./llama-server\-mqwen3.8-27b-q4_k_m.gguf\-c32768\-ngl999\--host0.0.0.0\--port8080**方案二Ollama 一键部署最省事**bash ollama pull qwen3.8:27b ollama run qwen3.8:27bOllama 库上架可能有延迟如果拉不到就先走方案一。方案三vLLM 生产部署多用户/服务化pipinstallvllm python-mvllm.entrypoints.openai.api_server\--modelQwen/Qwen3.8-27B\--max-model-len65536## 几个坑1. **显存 ≠ 模型文件大小**。17GB 是量化后权重体积实际占用还要加 KV Cache 和推理激活值。上下文越长KV Cache 越大——开到8192tokens 上下文就能吃掉好几 GB 显存想开满100万上下文家用卡想都别想。16GB 显存的卡建议把上下文控制在 8K 以内先跑通再谈效果。2.2. **多模态更吃显存**。纯文本 17GB 能跑加图片/视频输入建议 20GB 以上或者降低并发。想拿它做 OCR、看图表先算好显存余量。3.3. **默认开启思考模式**。模型默认会先输出推理过程这既影响首字速度也占显存。官方提供了 reasoning_effort 参数调节思考深度单次请求也可以关闭思考模式记得按任务类型调别全程拉满。4.4. **别拿 27B 当万能旗舰**。Agent 任务亮眼科学推理类还是差一档。真要写复杂算法、做深度推理该用 API 用 API。5.5. **benchmark 是官方口径**。等第三方复现结果出来再下结论更稳社区已经有开发者放出对比测试可以搜着看。 选择建议个人开发机、数据敏感场景、想省 API 钱的本地跑 27B 值得一试追求最强能力、任务复杂多变就混用 API——本地模型扛日常云端旗舰顶大活这是目前比较务实的组合。## 结尾27B 这个尺寸以前是能跑但不够聪明现在被卷成了跑得动又能干活。本地大模型会不会从此成为开发者的标配公司什么时候能给我们配个4090你怎么看评论区聊聊。 270亿参数多模态模型开源，Qwen3.8-27B家用显卡就能跑
8月14日晚阿里千问开源了 Qwen3.8-27B。这是一款 270 亿参数的原生多模态稠密模型支持图像和视频理解原生上下文 262K tokens、可通过 YaRN 扩展到 100 万采用 Apache 2.0 协议——下载、部署、商用全部免费。27B 是开源社区呼声最高的模型尺寸之一对普通开发者来说最实际的信号是量化后约 17GB 显存就能跑家用显卡够得着了。技术本质Agent 能力开始下沉这两年大模型的升级主线是大Qwen3.8 旗舰是 2.4 万亿参数激活 95B的 MoE完整精度要 4.9TB 存储本地基本跑不动。Qwen3.8-27B 反着来Dense 稠密架构270 亿参数全量激活没有 MoE 的门控路由层部署简单得多同时把多模态、长上下文、Agent 能力都塞了进来。从结构上看它延续了 Qwen3.8 系列的技术路线64 层网络、隐藏维度 5120采用 Gated DeltaNet 与 Gated Attention 组合的混合结构并训练了多步 Token 预测MTP能力。相比 MoE 模型Dense 的好处是部署心智负担低——不用处理专家加载策略llama.cpp、Ollama 这类工具支持也更成熟。能力有没有缩水据报道在 SWE-bench Pro 上 Qwen3.8-27B 得 61.7 分超过 Claude Opus 4.6 Max 官方成绩的 53.4OSWorld-Verified电脑操作类任务84.3 分也领先但 Terminal Bench 2.173.0、GPQA Diamond89.2、HLE30.8仍低于 Opus 4.6 Max。结论比较清晰软件工程、电脑操作、长周期办公这类 Agent 任务27B 已经摸到甚至超过部分闭源旗舰科学推理和高难综合推理还有差距。报道里也提醒这些 benchmark 成绩主要来自千问官方测试第三方独立验证还在路上先别急着下结论。和上一代 Qwen3.6-27B 比进步是实打实的SWE-bench Pro 从 53.5 提到 61.7新增了 reasoning_effort 参数可以按任务难度调节思考深度省 token 也省显存——这对本地部署用户是有用的细节。对打工人意味着什么免费 商用无限制Apache 2.0 协议个人、公司都能用不用看 API 价格脸色。数据不出门代码、文档、截图都能在本地处理对数据敏感的场景内部代码、客户资料是刚需。成本可控不按 token 付费电费和显卡钱就是全部成本。社区里已经有开发者把它接进编程工具做零 API 费用 数据不出门的本地编程助手。这次开源也不是孤例。据报道此前千问已经开源了 Qwen3.8-2.4T-A95B 权重8 月 3 日发布的 Qwen3.8-Max 所基于的底座累计开源模型超 460 个Qwen 系列全球下载量超 30 亿次、衍生模型超 30 万个。从 2.4T 到 27B覆盖的是不同档位的需求要顶级能力用大 MoE要自托管用 Dense 小模型。对打工人来说多一个能本地跑的选择就多一分议价空间——不管是对 API 价格还是对公司迟迟不批的显卡预算。怎么跑三个档次的部署方案方案一GGUF 量化 llama.cpp个人最常用先从魔搭或 HuggingFace 下载量化权重Unsloth 已放出 Q4_K_M 等 20 多种量化版本Q4_K_M 约 17GB具体仓库路径以发布页为准gitlfsinstallgitclone https://modelscope.cn/models/Qwen/Qwen3.8-27B-GGUF.git编译或下载预编译的 llama.cpp 后启动推理服务./llama-server\-mqwen3.8-27b-q4_k_m.gguf\-c32768\-ngl999\--host0.0.0.0\--port8080**方案二Ollama 一键部署最省事**bash ollama pull qwen3.8:27b ollama run qwen3.8:27bOllama 库上架可能有延迟如果拉不到就先走方案一。方案三vLLM 生产部署多用户/服务化pipinstallvllm python-mvllm.entrypoints.openai.api_server\--modelQwen/Qwen3.8-27B\--max-model-len65536## 几个坑1. **显存 ≠ 模型文件大小**。17GB 是量化后权重体积实际占用还要加 KV Cache 和推理激活值。上下文越长KV Cache 越大——开到8192tokens 上下文就能吃掉好几 GB 显存想开满100万上下文家用卡想都别想。16GB 显存的卡建议把上下文控制在 8K 以内先跑通再谈效果。2.2. **多模态更吃显存**。纯文本 17GB 能跑加图片/视频输入建议 20GB 以上或者降低并发。想拿它做 OCR、看图表先算好显存余量。3.3. **默认开启思考模式**。模型默认会先输出推理过程这既影响首字速度也占显存。官方提供了 reasoning_effort 参数调节思考深度单次请求也可以关闭思考模式记得按任务类型调别全程拉满。4.4. **别拿 27B 当万能旗舰**。Agent 任务亮眼科学推理类还是差一档。真要写复杂算法、做深度推理该用 API 用 API。5.5. **benchmark 是官方口径**。等第三方复现结果出来再下结论更稳社区已经有开发者放出对比测试可以搜着看。 选择建议个人开发机、数据敏感场景、想省 API 钱的本地跑 27B 值得一试追求最强能力、任务复杂多变就混用 API——本地模型扛日常云端旗舰顶大活这是目前比较务实的组合。## 结尾27B 这个尺寸以前是能跑但不够聪明现在被卷成了跑得动又能干活。本地大模型会不会从此成为开发者的标配公司什么时候能给我们配个4090你怎么看评论区聊聊。