我报名参加金石计划1期应战——瓜分10万奖池，这是我的第8篇文章，点击检查活动概况

• 作者：韩信子@ShowMeAI
• 数据剖析实战系列：www.showmeai.tech/tutorials/4…
• 机器学习实战系列：www.showmeai.tech/tutorials/4…
• 本文地址：www.showmeai.tech/article-det…
• 声明：版权所有，转载请联络渠道与作者并注明出处
• 收藏ShowMeAI检查更多精彩内容

数据漂移

The Only Constant in Life Is Change. 国际上仅有不变的便是改动自身。

这是一句来自希腊的哲学家赫拉克利特写的话，它很简略但却道出了国际的真理之一。在数据科学与机器学习范畴，这句话同样是十分有意义的，在出产中部署机器学习模型的许多实践应用中，数据通常会跟着时刻的推移而改动，因而之前构建的模型会跟着时刻的推移而变得不精确，作用大打折扣，这便是典型的数据漂移问题。

实在事例

2022年3月17日至4月6日，信誉陈述组织 Equifax 的体系出现问题，导致 信誉评分不正确，影响到百万等级的消费者，并导致了针对公司的法令索赔和团体诉讼，业界专家称，这个问题的本源便是数据漂移。

数据漂移

何为数据漂移

当咱们在运用数据科学办法解决场景问题时，得到计划之后，在实践出产环境中，假如咱们拿到的实时猜测数据，散布与用于练习模型的练习数据散布有差异时，就发生了『数据漂移』，而它的结果便是预估不再精确，作用下降甚至直接影响公司的收益。

简略的比如，例如用『口罩方针』之前的互联网数据建模，对『口罩方针』施行时的用户行为预估，那一定会有误差；又如咱们用日常数据建模，构建电商推荐体系，在 618 和双11当天猜测，或许也会有误差，模型作用下降。

练习数据和出产数据之间的差异或许是由多种因素形成的。或许原本运用的练习数据就不合适。

例如，假如运用美国道路数据集练习和检测道路状况，应用在我国的道路上，作用就会差十分多，这也是明显的数据漂移。

现代互联网年代，没分每秒都敏捷发生海量大数据，咱们的数据源出现爆破式增长也更容易会有改动。咱们并不能每次都提前预判到『数据漂移』问题，甚至有时分咱们会遇到特别的网络进犯，根据『数据漂移』的常识进行调整和切换进犯方式。

例如，咱们根据历史数据构建了作用十分杰出的垃圾邮件检测功能，但进犯者或许在某个时分改动发送垃圾邮件的行为，因为送入模型的数据发生了改动，咱们原本构建的模型或许真的会被『诈骗』。

因而，很重要的是，咱们需要有一套比对和检测的机制，能够及时发现『数据漂移』，并对其进行处理。

检测办法概述

有许多数据漂移的检测办法，最简略的方式是根据计算办法来比较『练习数据』（称为基线或参考）和『实时数据』（出产数据）的散布，假如两个散布之间有着明显差异，咱们就判别为发生数据漂移。

最盛行的计算查验办法包含 Kolmogorov-Smirnov 查验、卡方查验、 Jensen-Shannon 散度、 Wasserstein 间隔。 另一类办法是运用机器学习模型来监控数据质量。 咱们也能够把两类办法混合运用。

实践出产环境中，计算的办法运用得许多，它们简略且有很不错的作用。下面 ShowMeAI 就根据代码告诉咱们怎么进行『数据漂移』检测。

代码完成

数据漂移检测

咱们在这里会运用到 evidently 这个十分简略易用的东西库，它是一个专门针对『数据漂移』问题构建的东西库，能够对数据 / 标签 / 模型表现等进行检测，不只能够输出陈述，还能够启动实时看板监控。

下面导入东西库

import pandas as pd
from sklearn import datasets 
from evidently.dashboard import Dashboard
from evidently.dashboard.tabs import DataDriftTab, CatTargetDriftTab

evidently的运用过程如下，咱们会先加载数据，然后做漂移剖析和检测，最终能够构建看板进行剖析结果的出现。

咱们运用sklearn自带的 iris 数据集作为示例来给咱们讲解，咱们把对应的数据和标签读取出来。

iris = datasets.load_iris()
iris_frame = pd.DataFrame(iris.data, columns = iris.feature_names)
iris_frame['target'] = iris.target

咱们把完好的数据集切分为练习集和测试集，对其进行比照和数据漂移剖析，最终构建仪表盘看板：

iris_data_drift_report = Dashboard(tabs=[DataDriftTab(verbose_level=verbose),
                                         CatTargetDriftTab(verbose_level=verbose)])
iris_data_drift_report.calculate(iris_frame[:75], iris_frame[-new_samples:], column_mapping = None)
iris_data_drift_report.show(mode="inline")

注意到参数verbose，它是布尔值，用于控制显示仪表板的具体程度。 上述代码中咱们设置为 False，会得到一个陈述如下，里面具体剖析了练习集和测试集的『特征字段』和『标签』的散布差异状况：

咱们也能够经过下列代码去打开看板和存储html陈述。

iris_target_drift_dashboard.show()
iris_target_drift_dashboard.save('iris_target_drift.html')

参考资料

• Equifax issued wrong credit scores for millions of consumers：www.cnn.com/2022/08/03/…
• Kolmogorov-Smirnov 查验：en.wikipedia.org/wiki/Kolmog…
• 卡方查验：en.wikipedia.org/wiki/Chi-sq…
• Jensen-Shannon 散度：en.wikipedia.org/wiki/Jensen…
• Wasserstein 间隔：en.wikipedia.org/wiki/Wasser…