当前位置: 首页 > news >正文

开箱 NVIDIA DGX Spark:iPad mini尺寸实现千万亿次算力

作者:毛烁

几天前,一位在行业深耕多年的朋友问我:现在满市场都是AIPC,究竟什么样的机器,才配得上“生产力”引擎,而不只是把“本地端侧智能”当卖点?

这个问题的关键,并不仅在于某一代芯片性能是否足够强,更在于算力的组织方式是否发生了变化。过去二十年,计算资源不断向云端集中,个人设备逐渐退化为算力入口。但在大模型时代,这种结构开始显现出系统性张力——模型规模、数据私有性与推理频率,正在加速算力重新下沉。

AIPC的出现,解决了部分本地推理问题,却仍受限于显存规模、内存割裂和模型生命周期不可持续,难以形成完整的计算闭环。本质上,算力依然是被预设、被封装的。

真正的分水岭,或许不是“PC 能不能跑 AI”,而是——个人是否能够拥有可持续演进的AI计算系统,能在本地完成推理、微调与优化,并长期沉淀数据与模型资产。

从这个意义上看,是否“每个人都应该有一台 AI 超算”

最近,我们正好拿到了一台不久前发布的NVIDIA DGX Spark——一台被压缩到桌面尺度的AI超算。

GB10的CPU部分,搭载了专为数据预处理和AI任务优化的20核心ARM处理器。这颗CPU的核心调度策略采用“10+10组合”——10个Cortex-X925超大核负责高负载的通用计算任务10 个 Cortex-A725高能效核负责处理后台进程和I/O 调度。

与之协同的,是基于 Blackwell架构的GPU核心。集成了6144个Blackwell Generation CUDA 核心,搭载了第五代Tensor Core和第四代RT Core。

最令人惊艳的在于其张量性能(Tensor Performance):在 FP4精度下,这1.2kg的“小盒子”能爆发出的峰值算力高达1 PFLOP(此为基于 FP4精度并结合稀疏性加速的理论值)。这意味着其单机的理论性能,已经能够支撑起200B(两千亿)参数级别的AI推理任务,或70B(七百亿级别的模型微调训练。

为了匹配这样的计算与互联能力,NVIDIADGX Spark在存储I/O配置上标配4TB NVMe M.2 SSD,并支持自加密(Self-Encrypting),用于保护模型权重与数据资产的安全;网络侧除万兆以太网外,还支持Wi-Fi 7,覆盖从本地集群到无线办公的多种使用场景。

在如此激进的性能释放下,GB10芯片的TDP被控制在140W,整机满载功耗约240W。结合仅其紧凑的体积,NVIDIA DGX Spark给出了清晰的答案——桌面级AI计算不再只是靠堆功耗换算力,而是通过系统架构、内存模型和高速互连,把单位能耗下的有效算力密度推到新的高度。

对于LLM开发者而言,NVIDIA DGX Spark最具”爆发力”的能力,在于其配备128GB LPDDR5x统一系统内存。这套内存采用256-bit位宽,总带宽达到273 GB/s,由CPU与GPU 共享同一物理内存池。

与传统“CPU 内存+独立显存”的割裂架构不同,统一的内存从根本上绕开了24GB、48GB显存所形成的硬性上限。系统可以根据实际负载动态分配内存资源,模型参数、KV Cache,以及中间张量无需在 CPU内存与GPU显存之间反复搬运,不仅降低了内存拷贝带来的时延,也显著简化了大模型部署与调优的复杂度。

对开发者来说,这意味着可以在单机环境中承载更大的模型规模,并获得更稳定、可预测的推理性能。

回到最初的问题:什么样的机器,才配得上“生产力引擎”?

前文所拆解的,并不仅是DGX Spark的性能参数,更是整套计算范式的变化。从统一内存打破显存墙,到CPU与GPU在同一物理内存池内协同调度;从单机即可承载数百亿参数模型,到通过高速互连实现近线性的算力扩展。这些设计共同指向一个事实——AI计算正在从“被调用的资源”,转变为“可长期拥有、持续演进的系统”。

当模型可以在本地完成推理、微调与迭代,当数据与权重不再只是临时加载的消耗品,而是可以长期沉淀、不断增值的资产,计算设备本身的角色也随之发生改变——它不再是终端,而是个人级算力基础设施。

从这个意义上看,“每个人都应该拥有一台AI超算”或许是大模型时代对生产力工具提出的现实要求。



http://www.rkmt.cn/news/153919.html

相关文章:

  • AI编程智能体工作原理及使用注意事项
  • 有实力且靠谱!售后完善的 AI 搜索优化专业公司推荐 - 工业品网
  • 2025哪款减肥产品瘦身快?腰纪线多维营养代餐:科学重塑代谢,高效燃脂不反弹 - 速递信息
  • 2025年产后宝妈专属代餐推荐:科学控卡 + 营养护乳,轻松找回好状态 - 速递信息
  • VSCode + Gemini 3 Pro:6大实战场景+避坑指南,开发效率飙升10倍!
  • 运营述职 PPT 工具横评:效率与呈现谁更优
  • 人事行政述职 PPT 工具测评,适合中大型公司吗?
  • 2025保温管厂家综合实力排名:从产能到专利,河北陕拓与鑫龙日升领跑行业 - 爱采购寻源宝典
  • 2025 电缆线 厂家推荐排行榜:从产能到专利实力大比拼 - 爱采购寻源宝典
  • ROS2核心概念理清:功能包、可执行文件与节点的关系详解
  • 基于大数据+ECharts的数据可视化电商系统的设计与实现(程序+文档+讲解)
  • 广州体育培训基地排名:用户增长300%的黑马机构上榜 - 品牌测评家
  • 排序算法实战篇(一):6 大基础排序原理 + Python 代码 + 运行过程
  • 重试、死信与补偿策略——失败处置流水线的设计,防雪崩的节流思路
  • 记一次利用binlog进行数据恢复
  • 基于AI智能名片链动2+1模式S2B2C商城小程序的商户端微商平台构建研究
  • 【大气】多时相 InSAR 中空间变化分层大气延迟校正联合模型研究附Matlab代码
  • 【单磁铁磁场】【两个相斥磁铁】【两个相吸磁铁】【磁场分布 3d】附Matlab代码
  • 【毕业设计】基于springboot的旅游网站系统的设计与实现(源码+文档+远程调试,全bao定制等)
  • 计算机Java毕设实战-基于SpringBoot +Vue的动漫推荐系统设计与实现(协同过滤推荐算法)基于协同过滤算法的动漫推荐系统【完整源码+LW+部署说明+演示视频,全bao一条龙等】
  • 基于微信小程序的乡镇医院挂号预约系统毕设源码+文档+讲解视频
  • 【毕业设计】基于协同过滤算法的动漫推荐系统(源码+文档+远程调试,全bao定制等)
  • 基于微信小程序的新冠疫情防控信息管理系统毕设源码+文档+讲解视频
  • 2025门口摆件厂家综合实力排名 产能规模与专利技术双维度权威解析 - 爱采购寻源宝典
  • 算法讲解15:栈
  • 企业AI智能体官网:创新性、响应及时性与成本降低的综合考量
  • AI搜索优化公司排行及推荐:南方网通脱颖而出
  • Java毕设项目:基于协同过滤算法的动漫推荐系统(源码+文档,讲解、调试运行,定制等)
  • Acrobat Pro DC 2025的使用技巧
  • 2026高职移动开发专业,高薪证书报考指南