对您的模型交易进行解释，帮助您了解预测是如何确定的。

您可以分析局部解释以了解特定事务的因素的影响，也可以分析全局解释以了解影响模型结果的一般因素。 您配置的模型类型确定可用于分析事务的说明类型。

支持对结构化、图像和非结构化文本模型进行解释。 结构化模型可以使用二元，多类或回归分类问题。 图像或非结构化文本模型可以使用二进制或多类分类问题。

配置可解释性时，可以使用本地可解释模型诊断解释 (LIME)、对比解释或夏普利加法解释 (SHAP) 来分析事务。

LIME 通过分析多达 5000 个其他近距离数据点，确定哪些特征对特定数据点最重要。 在理想的情况下，LIME 中重要性高的特征是对于该特定数据点最重要的特征。

对比解释计算需要更改多少值才能更改预测或保持相同的预测。 需要最大变化的因素被认为更重要，因此对比解释中具有最高重要性的特征是模型最不敏感的特征。 对于对比性解释，会显示相同结果的最大变化和变化结果的最小变化。 这些类别也称为相关正值和相关负值。 这些值有助于解释模型在为其生成解释的数据点附近的行为。

SHAP 是一种博弈论方法，用于解释机器学习模型的输出。 它通过使用 Shapley 值及其相关扩展将最优信用分配与本地解释连接起来。 SHAP 为每个模型特征分配一个特定预测的重要性值，称为 Shapley 值。 沙普利值是特征值在所有可能的特征组中的平均边际贡献。 输入特征的 SHAP 值是基线或预期模型输出与正在说明的预测的当前模型输出之间的差值总和。 基线模型输出可以基于训练数据的摘要或必须为其生成说明的任何数据子集。 可以组合一组事务的 Shapley 值以获取全局解释，这些解释提供了模型的哪些特征最重要的概述。