首页/资讯中心/详情

2025智能体基座新标杆：GLM-4.5-Air-FP8如何平衡性能与成本

2025智能体基座新标杆：GLM-4.5-Air-FP8如何平衡性能与成本
📅 发布时间：2026/6/21 15:53:34

导语

【免费下载链接】GLM-4.5-Air-FP8GLM-4.5系列模型是专为智能体设计的基座模型。GLM-4.5拥有3550亿总参数和320亿活跃参数，而GLM-4.5-Air采用更紧凑的设计，总参数为1060亿，活跃参数为120亿。GLM-4.5模型统一了推理、编程和智能体能力，以满足智能体应用的复杂需求。项目地址: https://ai.gitcode.com/zai-org/GLM-4.5-Air-FP8

GLM-4.5-Air-FP8以1060亿总参数、120亿活跃参数的紧凑设计，通过混合推理架构与FP8量化技术，重新定义了智能体基座模型的能效标准，为企业级AI部署提供了性能与成本的最优解。

行业现状：从参数竞赛到效率革命

2025年，大模型行业正经历深刻转型。据第三方研究机构《从大模型叙事到"小模型时代"》分析显示，国内厂商"≤10B参数"小模型的发布占比已从2023年的23%飙升至2025年的56%，标志着行业重心从"参数军备竞赛"转向"单位算力产出"的比拼。这种转变源于企业对AI部署成本的高度敏感——行业数据显示68%的企业已部署小语言模型，超过45%的企业实现了成本优化与准确率双提升。

与此同时，智能体应用呈现爆发式增长。市场研究机构《2025年中国AI智能体行业分析》预测，全球AI智能体市场规模将从2024年的51亿美元激增至2025年的113亿美元，中国市场规模将达69亿元。这一背景下，企业亟需兼顾高性能与低部署成本的智能体基座，而GLM-4.5-Air-FP8正是在这样的行业需求中应运而生。

核心亮点：技术创新与商业价值的双重突破

混合专家架构与FP8量化的完美融合

GLM-4.5-Air-FP8采用创新的混合专家(MoE)架构，1060亿总参数中仅激活120亿参数即可实现顶级性能。这种设计配合FP8量化技术，在SGLang框架测试中实现了比BF16版本50%的显存节省。对比传统密集型模型，其能效优势体现在三个维度：计算效率（每个token仅经过1/11的专家模块处理）、存储优化（FP8格式将单参数存储成本降低50%）和推理速度（在H100 GPU上实现每秒2300 token的生成速度）。

双模式推理系统：智能适配业务场景

模型创新性地引入"思考模式"与"非思考模式"双引擎：前者针对复杂推理任务自动触发多步逻辑分析，在AIME 24数学竞赛中达到91.0%准确率；后者面向简单问答场景直接生成响应，响应延迟降低至80ms。这种设计使模型能根据任务复杂度智能调度计算资源，极大提升了资源利用效率。

企业级部署的极致优化

GLM-4.5-Air-FP8在硬件兼容性上表现突出，官方测试数据显示：完整功能部署最低仅需2台H100 GPU，支持128K上下文长度也仅需4台H100 GPU，与vLLM、SGLang等主流推理框架深度整合，大幅降低了企业部署门槛。

性能表现：小参数实现大能力

GLM-4.5系列在12项行业标准基准测试中表现优异，综合得分为59.8，在开源模型中处于领先位置。特别值得注意的是，其在代码生成和数学推理等关键智能体能力上表现突出，这为企业构建自动化编程助手和数据分析工具提供了强大支撑。

如上图所示，这张表格展示了2025年1月至8月间多家厂商发布的小于10B参数规模的小模型，其中智谱AI的GLM-4.5-9B/Air模型凭借独特的混合推理架构和能效优势，在同类产品中脱颖而出，成为企业智能体部署的热门选择。

行业影响与应用场景

中小企业的AI普惠化进程加速

GLM-4.5-Air-FP8的MIT开源许可与高效部署特性，使中小企业首次具备构建企业级AI系统的能力。技术社区《开源大模型商业应用》分析显示，采用该模型的企业平均实现初始部署成本降低75%、推理延迟减少40%、定制化周期缩短至2周。典型案例包括：某金融机构分析师使用GLM-4.5-Air-FP8后，单天可完成上万个账户的财报归纳工作，效率提升达传统方式的15倍；某软件服务厂商将客服系统迁移至该模型后，API调用成本下降90%，响应延迟从2秒降至0.5秒。

推动绿色AI发展

在全球算力碳足迹日益受到关注的背景下，GLM-4.5-Air-FP8的能效优势具有显著环境价值。对比同类模型，其每百万token推理能耗降低约60%，相当于一个中型企业AI系统每年减少320吨碳排放。这种"绿色AI"特性使其在环保法规合规方面具有先天优势，为企业在环保法规日益严格的市场环境中提供了技术保障。

部署指南：快速上手指南

企业用户可通过以下简单步骤部署GLM-4.5-Air-FP8：

  1. 环境准备：安装requirements.txt依赖包

    pip install -r requirements.txt

  2. vLLM部署：支持BF16和FP8格式

    vllm serve zai-org/GLM-4.5-Air-FP8 \ --tensor-parallel-size 2 \ --tool-call-parser glm45 \ --reasoning-parser glm45 \ --enable-auto-tool-choice \ --served-model-name glm-4.5-air-fp8

  3. SGLang部署：针对FP8优化

    python3 -m sglang.launch_server \ --model-path zai-org/GLM-4.5-Air-FP8 \ --tp-size 2 \ --tool-call-parser glm45 \ --reasoning-parser glm45 \ --speculative-algorithm EAGLE \ --host 0.0.0.0 \ --port 8000

总结与前瞻

GLM-4.5-Air-FP8通过混合专家架构、FP8量化技术和双模式推理系统，在1060亿参数规模上实现了性能与效率的完美平衡，为企业智能体部署提供了理想选择。其创新点在于：一是将大模型能力压缩至中小企业可负担的部署成本；二是通过智能调度机制最大化资源利用率；三是开源许可为企业定制化开发提供了灵活性。

随着英伟达H200 GPU等新一代硬件的推出，以及推理框架的持续优化，GLM-4.5-Air-FP8的能效优势有望进一步放大。对于企业决策者而言，现在正是评估这一技术的理想时机——在智能体应用爆发的前夜，选择合适的基座模型将成为未来竞争的关键差异化因素。

如需获取模型，可通过项目地址：https://gitcode.com/zai-org/GLM-4.5-Air-FP8 进行下载和部署。

【免费下载链接】GLM-4.5-Air-FP8GLM-4.5系列模型是专为智能体设计的基座模型。GLM-4.5拥有3550亿总参数和320亿活跃参数，而GLM-4.5-Air采用更紧凑的设计，总参数为1060亿，活跃参数为120亿。GLM-4.5模型统一了推理、编程和智能体能力，以满足智能体应用的复杂需求。项目地址: https://ai.gitcode.com/zai-org/GLM-4.5-Air-FP8

创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考