パラメーターの構成

パラメータを設定するには、使用したい説明方法を指定する必要があります。 ローカルな説明方法として、SHAP（Shapley Additive explanations）またはLIME（Local Interpretable Model-Agnostic explanations）を選択する必要があります。 SHAPを局所説明法として使用する場合は、各局所説明に対してモデルが生成する摂動の数を指定し、バックグラウンドデータを使用するオプションを選択する必要があります。 背景データは、説明の結果に対する特徴の影響を判断するために使用される。 ローカルな説明としてLIMEを使用する場合は、摂動の数だけを指定する必要があります。

Global explanationパラメータを有効にすると、グローバルな説明方法として、SHAP（Shapley Additive explanations）またはLIME（Local Interpretable Model-Agnostic explanations）を選択することもできます。 グローバルな説明方法を設定するには、進行中の説明を生成するために使用するモデル・トランザクションのサンプル・サイズと、説明を生成するタイミングを決定するスケジュールを指定する必要があります。 また、グローバル説明の安定性のしきい値を指定し、ベースライン・グローバル説明の生成方法を指定するオプションを選択する必要があります。 これらの設定は、グローバルな説明の安定性指標を計算するために使用される。

制御可能な特徴量

制御可能な特徴量とは、変更でき、モデルの結果に大きな影響を与える特徴量のことです。 制御可能な特徴を指定することで、異なる結果をもたらす可能性のある変更を特定することができる。

言語サポート

言語サポートを有効にすると、スペースで区切られていない言語を分析し、説明可能性を判断することができます。 サポートされている言語を自動的に検出するようにexplanabilityを設定することも、分析したいサポートされている言語を手動で指定することもできます。 構造化モデルおよびイメージ・モデルの言語サポートを構成することはできません。

サポートされている説明可能性の指標

以下の説明可能性メトリクスがサポートされています：

グローバルな説明の安定性

グローバルな説明の安定性は、グローバルな説明の時間的な一貫性の程度を示す

• 説明 (Description):

グローバルな説明は、説明可能性評価を構成するときに提供するベースライン・データを使って生成されます。 グローバルな説明では、モデルの挙動に最も影響を与える特徴を特定します。 新しいグローバル説明が生成されると、各説明はベースラインのグローバル説明と比較され、グローバル説明の安定性が計算される。 グローバル説明の安定性は、正規化割引累積利得（NDGC）式を使用して、新しいグローバル説明とベースライングローバル説明の類似性を決定する。

• どのように機能するか：値が高いほど、ベースラインの説明との均一性が高いことを示す

  • 0：説明はまったく違う。
  • 1：説明はよく似ている。

• 計算してみろ：

グローバルな説明の安定性を計算するには、以下の式を使用する：

                  DCGₚ
nDCGₚ  =    _____________________
                  IDCGₚ

もっと見る

モデル・トランザクションの説明

親トピック AIモデルの評価