解释性

了解“黑匣子”机械学习模型预测后面的机制

机器学习模型通常被称为“黑匣子”,因为它们的知识表示不直观,而且,因此,很难理解他们的工作原理。解释性是指克服大多数机器学习算法的黑匣子性质的技术。

通过揭示各种功能如何为预测贡献(或不贡献),您可以验证该模型正在使用正确的证据,以获得其预测,并找到在培训期间不明显的模型偏差。一些机器学习模型,如线性回归,决策树和生成的添加剂模型是固有的解释。然而,可解释性通常以预测功率和准确性为代价(图1)。

图1:模型性能与解释性之间的权衡。

应用解释性

从业者寻求模型解释性,主要有三个原因:

  • 调试:了解预测出错并运行“What-If”方案可以提高模型鲁棒性并消除偏差的方式。
  • 指导方针:“黑匣子”模型违反了许多企业技术的最佳实践和个人喜好。
  • 法规:模型可解释性必须遵守政府法规,以获得敏感申请,例如金融,公共卫生和运输。

模型解释性地解决了这些问题,并在用于预测的解释的情况下增加了模型的信任,这是由监管重要的或要求的。

可解释性可以应用于三个级别,如下图2所示。

  • 当地:解释个人预测背后的因素,例如贷款申请被拒绝的原因
  • 队列:展示模型如何在培训或测试数据集中对特定人口或组进行预测,例如将一组制成的产品被归类为缺陷的原因s manbetx 845
  • 全球:了解机器学习模型如何在整个培训或测试数据集上工作,例如由模型分类放射学图像考虑哪些因素

图2:使用模型解释性的情况。

在MATLAB中使用解释性技术

使用马铃薯®用于机器学习,您可以应用技术来解释和解释最受欢迎和高度准确的机器学习模型,该模型并不固有地解释。

本地可解释模型 - 不可知的解释(石灰):用简单的可解释模型(例如线性模型或决策树)近似于对兴趣预测的邻域的复杂模型,并将其作为代理以解释原始(复杂)模型的工作原理。下面图3说明了涂抹石灰的三个主要步骤。

图3:适合A.石灰对象,一个简单的可解释模型,您可以在Matlab中获得石灰解释。

部分依赖(PDP)和个人有条件期望(ICE)情节:通过在所有可能的特征值上平均模型的输出来检查一个或两个预测器对整体预测的影响。下面的图4显示了使用MATLAB功能生成的部分依赖绘图绘图竞争依赖性

图4:偏依赖性图,显示X1是否高于或低于3000,这对预测产生了很大的差异,因此模型解释性。

福利价值观:解释每个预测器通过计算平均利益预测的偏差来提高预测的预测。这种方法在金融业受欢迎,因为它来自博弈论,它满足了提供完整解释的监管要求:所有特征的福音价值之和对应于预测从平均值的总偏差。当Matlab功能福芙计算福利值的查询点。

图5:福利值表示每个预测器偏离兴趣点的平均预测。

评估所有功能组合通常需要很长时间。因此,在实践中,福利值通常通过施用来近似蒙特卡罗模拟

Matlab还支持随机森万博1manbetx林的允许预测标志重要性,这L.在测试或训练数据集的模型预测误差中oOks并将预测器的值加换并估计误差的变化的大小从破坏预测器的值对应于预测器的重要性。

选择一种可解释性的方法

图6概述了固有的可说明的机器学习,各种(模型 - 不可知)可解释性方法以及何时应用它们的指导。

图6:如何选择适当的解释性方法。

解释性方法有自己的限制。最佳实践是要知道将这些算法适合各种用例的限制。可解释性工具可帮助您理解为什么机器学习模型使其成为预测,这是验证和验证AI应用的关键部分。认证机构目前正在开展认证AI的框架,用于敏感应用,如自主运输和医学。

另请参阅:人工智能机器学习监督学习深度学习自动化