随着大模型应用从训练走向规模化推理算力供给正在面临新的结构性挑战。一方面高性能 GPU 资源持续紧张推理调用成本居高不下另一方面大量存量 CPU 服务器在传统通算场景之外仍有进一步释放价值的空间。如何让通用计算资源与智能计算资源形成协同成为提升大模型推理效率、降低应用成本的重要方向。围绕这一趋势云工场科技正在推进“面向大模型推理的通算智算融合调度与协同推理平台”相关研究与建设。平台依托云工场现有边缘云与智算基础设施将 CPU 通用计算资源、英伟达 GPU、AMD GPU、国产 GPU 等多架构资源纳入统一资源池探索面向大模型推理场景的异构算力协同调度能力。该平台的核心思路是让 CPU 不再仅作为传统通用计算资源而是参与到 AI 推理服务链路之中。在大模型推理过程中CPU 可承担请求接入、任务队列、数据预处理、上下文管理、KV Cache 管理、服务编排、轻量推理、Token 计量等环节GPU 则重点承担大参数模型计算、高并发矩阵运算等核心推理任务。通过“CPU 负责组织与辅助计算、GPU 负责核心推理计算”的协同架构平台有望提升整体资源利用效率缓解单一 GPU 推理模式下的资源压力。与传统 GPU 推理服务不同云工场科技此次研究的重点不只是资源层面的统一纳管而是围绕推理链路进行协同优化。平台将根据模型规模、并发请求、响应时延和成本目标动态匹配 CPU、GPU 或 CPUGPU 协同执行方式推动通算资源与智算资源在实际业务场景中的融合使用。在应用方向上该成果可面向政务问答、企业知识库、智能客服、办公助手、内容生成、行业模型推理、中小企业 AI 应用开发等场景。通过 CPUGPU 协同推理平台可在保障推理服务稳定性的基础上进一步提升存量 CPU 服务器的 AI 化利用效率释放 GPU 核心计算能力并为政府、园区、企业、开发者和 ISV 提供更加弹性、普惠、可持续的大模型推理服务。后续云工场科技将按照“资源接入—链路拆解—协同调度—场景验证—规模应用”的路径持续推进相关能力建设并结合裸金属、容器云、弹性算力、模型服务、API 调用、Token 计量等产品形态逐步形成面向城市级 AI 应用场景的通算智算融合推理服务体系。通过持续推进 CPUGPU 协同推理研究云工场科技将进一步探索存量算力资源盘活、高端 GPU 资源优化使用以及大模型应用成本下降的可行路径为 AI 应用规模化落地提供更加坚实的算力支撑。
