文章总结与翻译一、主要内容本文围绕大规模视觉语言模型（以CLIP为研究对象）的训练优化展开，聚焦训练加速和训练稳定性两大核心问题，通过理论分析、方法设计和实验验证提出解决方案：1. 低精度训练加速（8位量化训练）背景：16位（bfloat16/float16）是当前主流训练精度，但8位（int8/fp8）硬件支持逐渐普及，且能显著提升训练速度；然而8位量化易引入噪声，导致模型性能下降或训练发散。核心方法：提出SwitchBack线性层：前向传播和输入梯度计算采用8位（int8/fp8）矩阵乘法，权重梯度计算切换回16位高精度，避免大维度矩阵乘法中的量化噪声累积。针对fp8训练：提出零初始化层缩放（layer-scale initialized with zeros）方法，抑制特征幅值过大，无需SwitchBack也能实现高精度fp8训练。实验结果：SwitchBack在10亿参数CLIP ViT-Huge模型上，int8训练精度与bfloat16基线相差仅0.1个百分点，同时实现13%-25%的端到端训练加速；fp8模拟训练中，SwitchBack避免了基线方法的发散问题。
