尧图网站建设 尧图网络
  • 首页
  • 关于我们
  • 服务项目
  • 案例展示
  • 建站流程
  • 资讯中心
  • 联系我们
首页/资讯中心/详情

月之暗面开源 Kimi K3 权重,开发者热议自建成本与技术路线

月之暗面开源 Kimi K3 权重,开发者热议自建成本与技术路线
📅 发布时间:2026/7/30 7:20:16

【导语:月之暗面开源 Kimi K3 完整权重后,Hacker News 上开发者围绕其运行成本、性能及技术路线展开热烈讨论。Kimi K3 拥有 2.8 万亿参数等特性,虽性能有差距但有实际产出,定价较高,后续发展将由开发者决定。】


开源 3T 模型的运行难题

月之暗面开源 Kimi K3 完整权重第二天,Hacker News 上热门评论是关于其运行的算数题。MXFP4 原生精度下,光权重就要 1.5TB 显存,8 块 B200 勉强装下,实际部署至少 16 块。有人讨论用二手四路至强服务器插满 3TB DDR5 内存运行,速度大概每秒五六个 token,但也有人认为思考阶段耗时长,实际可用速度按天算。SSD offload 的结论更悲观,3T 级别可能慢到无法使用。

Kimi K3 技术细节与性能表现

7 月 27 日,Kimi 在官网博客发布 K3 技术细节。其具有 2.8 万亿参数,采用 MoE 架构,896 个专家每次激活 16 个,原生支持视觉和 100 万 token 上下文窗口。拥有三项核心技术,配合 MXFP4 权重量化训练,整体规模效率比前代 K2 提升约2.5 倍。

基准测试中,虽整体性能落后于 Claude Fable 5 和 GPT - 5.6 Sol,但有实际产出,如 48 小时自主设计芯片、搭建 MiniTriton 编译器、复现计算天体物理研究等。

高定价与自建成本考量

定价方面,缓存命中输入 $0.30 / 百万 token,未命中 $3.00 / 百万 token,输出 $15.00 / 百万 token,Mooncake 分离式推理架构使编码场景缓存命中率超过 90%,价格与 Claude Sonnet 相近。

开发者开始算账,一台 3TB 内存服务器按美国平均电价算,一个月电费约 $135,但重度编码用户一周消耗 50 亿 token,一台服务器一个月只能跑 1300 万 token。不过电力成本可能不是重点,数据主权才是驱动力,一些公司因监管要求本地部署。

技术路线与未来展望

有人提到 AMD 即将推出的 Epyc Venice 和 MI355X 可能改变成本曲线,若推理成本下降,“自建 K3” 对中小团队不再是难事。还有人呼吁社区从 K3 做 “真正的蒸馏”,训练更小的模型。

HN 上讨论基调务实且兴奋,K3 是 “第一个和闭源前沿一样大的开源模型”,让社区有机会量化真实推理成本等参数。Kimi 开放权重后,后续发展由开发者决定。

编辑观点:Kimi K3 的开源为行业带来新契机,虽运行和成本问题待解,但技术路线多样,有望推动开源模型发展,满足不同场景需求。

相关新闻

  • 广州渲染农场怎么选?本地创作者的云渲染参考
  • vLLM大模型部署优化:PagedAttention机制与生产实践指南
  • STM32串口通信实战:从HAL库配置到DMA+空闲中断应用

最新新闻

  • 传统开源金融库 vs QuantDash API:跨市场金融数据接入的硬核基准测试与并发架构设计
  • Cortex-A53 + GIC700 + Boot BRAM Vivado 全流程复现
  • STM32 BKP与RTC备份域原理与实战:数据断电保护与精准计时
  • DC-2靶场渗透实战:从信息收集到权限提升的完整攻击链解析
  • 电商竞品监控工具全链路解决方案:从数据采集到经营落地闭环
  • 焕新:推荐一下湖南耐用的建筑模板分包制造厂 - 品牌推广大师

日新闻

  • 终极TeamSpeak3音乐机器人搭建指南:5分钟实现语音聊天室音频播放
  • 广州海珠区内搬家攻略,平价靠谱搬家服务商推荐,专业打包搬运省心避坑全流程指南 - 厚道搬家
  • 大语言模型入门指南:从零到精通掌握AI核心技术的5大步骤

周新闻

  • 大连理工大学与东京大学联手打造的“主动型AI助手“
  • 170.2026年国家级科研瓶颈:超精密单点金刚石切削(SPDT)光学表面生成
  • SongBloom:革命性歌曲生成框架深度解析——如何通过交织自回归与扩散模型创作完整音乐

月新闻

  • 2026年6月公司网站搭建最新热门渠道测评:四大低成本/零代码平台对比+避坑
  • 【Linux】Linux arm 编译QT程序,出现expected “}“报错
  • 【MATLAB例程】四基站二维AOA定位与距离辅助增强对比仿真。基于角度观测和测距修正的固定目标平面定位精度分析

关于尧图

  • 公司简介
  • 团队介绍
  • 企业文化
  • 荣誉资质

服务项目

  • 定制开发
  • 电商建站
  • UI 设计
  • 运维服务

快速链接

  • 案例展示
  • 建站流程
  • 常见问题
  • 资讯中心

联系方式

  • 📍北京市朝阳区互联网产业园 A 座 10 层
  • 📞400-888-8888
  • ✉️contact@rkmt.cn
  • 🕐周一至周日 9:00-21:00

© 2024 北京尧图网络科技有限公司 版权所有 | 京 ICP 备 XXXXXXXX 号