MLOps 数据漂移检测：模型性能退化的自动预警
一、模型上线的隐性退化
模型上线那天，指标漂亮，皆大欢喜。一个月后，准确率悄悄往下掉。没有报错，没有异常，只是预测越来越偏。这不是 bug，是数据漂移。
真实世界的数据分布在变：用户行为变了，季节变了，市场变了。训练时的分布不再代表线上，模型就慢慢失准。退化是缓慢的，等业务指标掉下来才发现，为时已晚。漂移检测要做成自动预警，在退化变成事故前拦住。本文探讨数据漂移的检测方法与工程落地。
二、漂移类型与检测方法
漂移分三种，检测策略不同。协变量漂移：特征分布变了，标签关系没变。比如用户年龄结构偏移。用 PSI 或 KS 检验。
标签漂移：标签分布变了。比如正负比例从 3:7 变 5:5。用类别占比对比。概念漂移：特征与标签的关系变了，最危险。
模型逻辑本身过时了，只能重训。检测的核心是"比对基准分布与线上分布"。基准是训练集的分布快照，线上是近期预测时的输入分布。两者差异超阈值，告警。下面是漂移检测的链路：
flowchart TD A[线上特征样本] --> B[与基准分布比对] B --> C{差异超阈?} C -->|否| D[正常: 继续采样] C -->|是| E[告警: 触发排查] E --> F{概念漂移?} F -->|否| G[协变量/标签漂移] G --> H[调整阈值或重训] F -->|是| I[全量重训] H --> J[灰度验证新模型] I --> J style D fill:#e8f5e9 style E fill:#ffebee关键在"阈值不是拍脑袋"。PSI 太低天天告警，太高漂移过了才发现。应基于历史波动定阈值，留余量防误报。
三、生产级漂移检测器实现
下面用 Python 实现一个基于 PSI 的数值特征漂移检测器。
import math from dataclasses import dataclass @dataclass class PsiDetector: """PSI 漂移检测器：比对基准与线上分布的稳定性""" bins: int = 10 threshold: float = 0.2 # PSI>0.2 视为显著漂移 def _bin_counts(self, data: list[float], edges: list[float]) -> list[float]: """按基准分桶统计线上样本占比，空桶给极小值防除零""" counts = [0.0] * (len(edges) - 1) for v in data: for i in range(len(edges) - 1): if edges[i] <= v < edges[i + 1]: counts[i] += 1 break total = sum(counts) or 1.0 return [max(c / total, 1e-6) for c in counts] def psi(self, baseline: list[float], current: list[float]) -> float: """计算 PSI：基准与线上分桶占比的对数差异之和""" if len(baseline) < self.bins or len(current) < self.bins: # 样本太少不可信，直接返回 0 不告警 return 0.0 lo, hi = min(baseline), max(baseline) step = (hi - lo) / self.bins or 1.0 edges = [lo + i * step for i in range(self.bins + 1)] edges[-1] += 1e-9 # 闭区间收尾，防最大值落桶外 base_pct = self._bin_counts(baseline, edges) curr_pct = self._bin_counts(current, edges) return sum( (c - b) * math.log(c / b) for b, c in zip(base_pct, curr_pct) ) def drifted(self, baseline: list[float], current: list[float]) -> bool: return self.psi(baseline, current) > self.threshold if __name__ == "__main__": det = PsiDetector() base = [float(i % 10) for i in range(1000)] # 线上分布整体偏移，应触发漂移告警 curr = [float((i + 5) % 10) for i in range(1000)] print(f"PSI={det.psi(base, curr):.3f}, 漂移={det.drifted(base, curr)}")真实系统会对每个特征算 PSI，汇总成漂移看板。分类特征用卡方检验替代 PSI。并设分级告警：单特征漂移提示，多特征同时漂移才触发重训。
四、MLOps 数据漂移检测的代价与边界
漂移检测必要，但设计要克制。
阈值的两难。阈值低，误报多，团队告警疲劳。阈值高，漏报，退化已严重才响。应按特征重要度分级：重要特征阈值严，次要特征阈值松。
采样偏差。线上样本只取了被预测的请求。没被模型服务覆盖的数据，漂移看不见。应同时监控请求被拒率与覆盖率。
概念漂移最难检测。特征分布没变，但关系变了。PSI 看不出来，只能靠预测置信度与实际标签的偏差。需要延迟标签回填，工程复杂度高。
重训的代价。漂移触发重训，但新模型不一定更好。应灰度发布，A/B 验证新模型确实优于旧模型才切。盲目重训可能引入新退化。
漂移检测的"特征选择"不能贪多。对全部特征算 PSI 看着全面，但大量无关特征的噪声会淹没真正重要的信号。建议只监控模型 top-N 重要特征，信号噪声比更高。另一个被忽视的点是"延迟标签回填"：很多场景线上没有即时标签（如风控的逾期、推荐的点击），需要等几天甚至几周才能拿到真实结果。
应建标签回填管道，把延迟标签与预测对齐，才能算出真实性能退化，而非只看分布漂移猜。最后，漂移告警要联动重训流程，而非只发一条通知了事，告警没人跟进等于没检测。
五、总结
数据漂移检测，本质是用"分布比对"换"退化早发现"。机制上以 PSI 比对基准与线上，超阈值告警。工程上按特征重要度分级设阈，灰度验证重训效果。落地路线：先冻结训练集分布快照作基准；对 top-N 特征定期算 PSI；单特征漂移提示，多特征漂移触发重训；新模型灰度验证优于旧模型才切。模型上线不是终点，而是漂移监控的起点。