ARTICLE DETAIL

资讯详情

深耕网站建设、视觉设计与SEO优化的一线实战洞察。

(论文速读)FaultDiffusion: 基于扩散模型的少发故障时间序列生成

(论文速读)FaultDiffusion: 基于扩散模型的少发故障时间序列生成 论文题目FaultDiffusion: Few-Shot Fault Time Series Generation with Diffusion Model故障扩散基于扩散模型的少发故障时间序列生成会议AAAI2026摘要在工业设备监测中故障诊断是确保系统可靠性和实现预见性维护的关键。然而由于故障事件的稀有性和数据注释的高成本故障数据的稀缺严重阻碍了数据驱动的方法。现有的时间序列生成模型针对丰富的正态数据进行了优化难以在少数情况下捕获故障分布由于故障的大领域差距和高类内变异性生成的样本缺乏真实性和多样性。针对这一问题我们提出了一种新的基于扩散模型的少触发故障时间序列生成框架。我们的方法使用正负差适配器利用预先训练的正态数据分布来对正常域和故障域之间的差异进行建模以实现准确的故障综合。此外引入分集损失以防止模式崩溃鼓励通过样本间差值正则化产生不同的故障样本。实验结果表明我们的模型在真实性和多样性方面明显优于传统方法在关键基准上达到了最先进的性能。FaultDiffusion用扩散模型解决工业故障时序数据稀缺难题一、背景一个被忽视的关键难题在智能制造与工业物联网高速发展的今天设备故障诊断的重要性不言而喻——它直接关系到生产线的可靠性和预测性维护能力。然而一个几乎被所有人默认接受却始终未被有效解决的困境长期制约着该领域的发展故障数据极度稀缺。这种稀缺来自两个方面其一故障事件本身在正常生产中极为罕见其二故障数据的标注需要专业知识成本极高。现实的结果是工程师手头往往只有寥寥几条故障样本却要面对复杂多变的故障模式。现有的深度学习故障诊断方法对此几乎束手无策。它们大多采用无监督范式——用海量正常数据训练单类分类器虽然能判断是否异常却无法区分是哪种故障。这使得根因分析、故障分类等关键下游任务无从开展。一个自然的解决思路是用生成模型合成更多故障样本。但这条路并不平坦。二、现有方法为何失效两个根本性挑战挑战一时序故障与图像异常有本质区别【论文 Figure 1 上半部分展示图像异常与时序故障的对比示意图】近年来图像少样本异常生成取得了显著进展这些方法通常在预训练的正常数据生成器上利用少量缺陷图像进行微调并只在局部缺陷区域内做像素操作。但图像异常是静态且局部的比如划痕、斑点而时序故障是动态且全局的突变、漂移、振荡会影响整条序列的结构。这一根本性区别让图像方法直接失效。挑战二正常域与故障域之间存在巨大的分布鸿沟【论文 Figure 1 中半部分展示时序分布与图像分布的 t-SNE 可视化对比】正常时序数据通常稳定规律其特征分布紧凑集中。而故障数据含有大量突发脉冲、趋势漂移、异常振荡特征分布与正常数据截然不同。这与图像生成差异巨大——图像异常中物体的形状、纹理等底层语境基本保持一致域偏移相对有限。更棘手的是同一类型的时序故障内部分布极为多样。以偏移故障Offset Fault为例偏移量、持续时长、叠加的噪声形态各不相同形成了极高的类内多样性。在少样本场景下这直接导致生成模型的模式崩溃Mode Collapse模型倾向于死记硬背那几条已见过的样本而非真正学习故障的生成规律输出千篇一律。【论文 Figure 3展示 TimeGAN 生成故障样本的 t-SNE 可视化样本聚集在一起、特征空间退化】三、FaultDiffusion化整为零分而治之论文提出的FaultDiffusion框架核心思想简洁而优雅先充分学习正常数据的分布规律再用极少的故障样本学习正常与故障之间的差异而非从头学习整个故障分布。整体框架分为两个训练阶段以及三个关键技术模块。【论文 Figure 2整体模型架构图展示预训练阶段底部与微调阶段左上及局部注意力机制右上】3.1 第一阶段在正常数据上预训练框架选用Diffusion-TSICLR 2024作为骨干网络。它基于 Transformer 的编码器-解码器架构处理多变量时序数据将输出分解为趋势分量和季节分量能有效捕获时序数据的底层模式。预训练遵循标准的 DDPM去噪扩散概率模型框架通过在大量正常时序数据上训练使模型习得鲁棒的正常数据分布。具体而言前向过程逐步向数据注入噪声反向过程则通过 Transformer 去噪网络从噪声中重建原始数据。训练细节序列长度 24预训练 25,000 个 epochbatch size 64学习率含 500 步 warm-up。3.2 第二阶段正负差异适配器Positive-Negative Difference Adapter微调阶段的核心创新之一。论文将故障分布建模为即故障分布 预训练的正常分布 学到的参数化差异。这样一来模型只需学习差异而无需从零学习完整的故障分布大幅降低了少样本场景下的学习难度。具体实现方式如下冻结骨干网络的编码器和解码器参数完整保留预训练知识在骨干网络旁插入轻量级适配器模块仅更新适配器参数适配器输出通过残差连接融合到骨干网络的输出中。适配器的迭代更新公式为适配器的核心是滑动窗口注意力机制将注意力计算限制在局部邻域内高效捕获故障数据中的局部异常如突变峰值同时避免因数据稀疏导致全局注意力失焦。序列填充与计算方式为这一设计带来三重好处只更新适配器参数可训练参数量极小少样本微调时有效抑制过拟合同时降低整体计算复杂度。3.3 多样性损失Diversity Loss第二个关键创新。为从根源上对抗模式崩溃论文引入多样性损失通过最大化生成样本之间的差异来鼓励多样性其中 s1、s2 是模型的随机采样噪声预测最大化其差异即惩罚生成冗余样本。最终总损失为是标准 DDPM 去噪损失用于平衡去噪精度与多样性。两者协同作用前者保证生成样本的真实性后者丰富故障特征空间的覆盖范围。3.4 训练与生成流程【论文 Algorithm 1故障时序微调与生成的伪代码】整体流程分为预训练与微调两阶段生成时从纯高斯噪声出发通过反向扩散过程迭代去噪最终输出故障样本四、实验验证全面超越基线4.1 实验设置数据集自定义工业数据集包含正常数据与 15 种故障类型突发故障、渐进故障、周期故障、随机噪声故障、间歇故障、冲击故障、趋势故障、饱和故障、偏移故障、复合故障、频移故障、幅移故障、缺失数据故障、低频异常故障、突然恢复故障Tennessee Eastman ProcessTEP数据集过程控制基准选取 6 种故障DAMADICS 数据集阀门执行器故障数据集选取 4 种故障。评估指标判别分数Discriminative Score越低越好、预测分数Predictive Score越低越好、Context-FID越低越好、相关性分数Correlational Score越低越好。基线方法TimeGANNeurIPS 2019、TimeVAE、CotGAN、Diffusion-TSICLR 2024。公平起见基线方法将正常数据与少量故障数据混合后统一训练。4.2 故障生成质量【论文 Table 2自定义工业数据集上 15 种故障类型的生成质量对比结果】在自定义工业数据集上Table 2FaultDiffusion 在几乎所有指标和所有故障类型上均优于其他方法。其中判别分数平均提升约 20%相关性分数和预测分数的提升尤为突出体现了框架在合成复杂故障时序方面的鲁棒性。【论文 Table 1TEP 与 DAMADICS 公开数据集上的生成质量对比结果】在公开数据集上Table 1FaultDiffusion 同样取得最优整体性能且在不同故障类型之间表现稳定不像基线方法在某些故障上会出现明显的性能波动。【论文 Figure 4FaultDiffusion 与 TimeGAN 生成的时序样本可视化对比t-SNE 核密度估计】Figure 4 的可视化分析进一步印证了定量结论FaultDiffusion 生成的样本与真实故障数据的分布高度重合而 TimeGAN 的生成样本分布与真实分布存在明显偏差。4.3 消融实验【论文 Table 3适配器与多样性损失的消融实验结果】Table 3 展示了四种模型变体的对比结果移除任意一个模块均会导致显著的性能下降证明了两个模块各自的不可或缺性以及二者协同作用的重要价值。4.4 多样性实验【论文 Table 4TEP 与 DAMADICS 数据集上四种方法的多样性分数对比】在 10 个数据集中的9 个上FaultDiffusion 的多样性分数最高。在 TEPF12.3225vs. Diffusion-TS 的 1.8780和 TEPF42.1238vs. Diffusion-TS 的 1.7004上的优势尤为突出充分说明多样性损失在防止模式崩溃、丰富故障特征空间方面发挥了切实效果。4.5 下游故障分类任务【论文 Table 5下游分类任务的性能对比准确率、精确率、召回率、F1分数】评估生成方法的最终目的是看它能否真正帮助下游任务。Table 5 展示了将生成数据用于故障分类Train-Synthetic-Test-Real 范式的结果。FaultDiffusion 在全部四个指标上均领跑准确率0.8933提升约 20.5% vs. Diffusion-TS 的 0.7413F1 分数0.8700提升约 17.3% vs. Diffusion-TS 的 0.7413这一结果有力证明FaultDiffusion 生成的样本不仅看起来像真实故障而且确实携带了能够支撑分类决策的真实判别信息。五、总结与展望FaultDiffusion 的工作有几点值得特别关注方法论层面它揭示了时序故障生成不能简单套用图像方法的根本原因并针对域间隙和类内多样性这两个核心难点设计了有针对性的解决方案。正负差异适配器将问题从学习整个故障分布转化为学习正常与故障之间的差异是一个非常巧妙的问题重构。工程层面由于只更新适配器参数微调成本极低可训练参数量远小于全量微调具备良好的实用价值。局限性方面论文目前的实验均以序列长度 24 为主对更长序列的生成能力尚待验证。此外预训练阶段仍依赖充足的正常数据在正常数据同样稀少的极端场景下框架的适用性还有待探索。总体而言FaultDiffusion 为工业时序故障生成这一小而重要的问题提供了一个扎实的解决方案也为后续在更广泛的工业场景中落地智能故障诊断奠定了重要基础。
返回列表