説明可能性を設定することで、あるトランザクションについてモデルが予測した結果にどの特徴が寄与しているかを明らかにし、どのような変更を加えれば異なる結果になるかを予測することができます。
モデルの結果に影響を与える要因を分析するために、説明可能性を設定することができます。 特定のモデル・トランザクションの要因の影響を分析するようにローカルの説明を構成し、モデルの結果に影響を与える一般的な要因を分析するようにグローバルの説明を構成することができます。
説明可能性を手動で設定することも、カスタム・ノートブックを実行して説明可能性アーカイブを生成することもできます。
ノートブックを実行する際、アーカイブをアップロードして評価のパラメータを指定することができます。 トレーニングデータを提供しない場合は、説明可能性を設定するためにアーカイブを生成する必要があります。
説明可能性を手動で設定する場合、生成したい説明のタイプを決定するパラメータを設定する必要があります。 また、制御可能な特徴量を指定して、言語サポートを有効にすることもできます。
パラメーターの構成
パラメータを設定するには、使用したい説明方法を指定する必要があります。 ローカルな説明方法として、SHAP（Shapley Additive explanations）またはLIME（Local Interpretable Model-Agnostic explanations）を選択する必要があります。 SHAPを局所説明法として使用する場合は、各局所説明に対してモデルが生成する摂動の数を指定し、バックグラウンドデータを使用するオプションを選択する必要があります。 背景データは、説明の結果に対する特徴の影響を判断するために使用される。 ローカルな説明としてLIMEを使用する場合は、摂動の数だけを指定する必要があります。
Global explanationパラメータを有効にすると、グローバルな説明方法として、SHAP（Shapley Additive explanations）またはLIME（Local Interpretable Model-Agnostic explanations）を選択することもできます。 グローバルな説明方法を設定するには、進行中の説明を生成するために使用するモデル・トランザクションのサンプル・サイズと、説明を生成するタイミングを決定するスケジュールを指定する必要があります。 また、グローバル説明の安定性のしきい値を指定し、ベースライン・グローバル説明の生成方法を指定するオプションを選択する必要があります。 これらの設定は、グローバルな説明の安定性指標を計算するために使用される。
制御可能な特徴量
制御可能な特徴量とは、変更でき、モデルの結果に大きな影響を与える特徴量のことです。 制御可能な特徴を指定することで、異なる結果をもたらす可能性のある変更を特定することができる。
言語サポート
言語サポートを有効にすると、スペースで区切られていない言語を分析し、説明可能性を判断することができます。 サポートされている言語を自動的に検出するようにexplanabilityを設定することも、分析したいサポートされている言語を手動で指定することもできます。 構造化モデルおよびイメージ・モデルの言語サポートを構成することはできません。
サポートされている説明可能性の指標
以下の説明可能性メトリクスがサポートされています：
グローバルな説明の安定性
グローバルな説明の安定性は、グローバルな説明の時間的な一貫性の程度を示す
- 説明 (Description):
グローバルな説明は、説明可能性評価を構成するときに提供するベースライン・データを使って生成されます。 グローバルな説明では、モデルの挙動に最も影響を与える特徴を特定します。 新しいグローバル説明が生成されると、各説明はベースラインのグローバル説明と比較され、グローバル説明の安定性が計算される。 グローバル説明の安定性は、正規化割引累積利得（NDGC）式を使用して、新しいグローバル説明とベースライングローバル説明の類似性を決定する。
どのように機能するか：値が高いほど、ベースラインの説明との均一性が高いことを示す
- 0：説明はまったく違う。
- 1：説明はよく似ている。
計算してみろ：
グローバルな説明の安定性を計算するには、以下の式を使用する：
DCGₚ
nDCGₚ = _____________________
IDCGₚ
制限事項
- SHAPグローバル説明の設定を行う場合、以下の制限があります：
- 説明を構成するために使用するサンプルサイズは、特定の期間に生成される説明の数に影響を与える可能性があります。 サンプル数が多い場合に複数の説明を生成しようとすると、トランザクションの処理が失敗する可能性があります。
- 複数のサブスクリプションに対して説明を構成する場合、配置に含まれるフィーチャ数が 20 以下の場合は、サンプル サイズと摂動数の設定のデフォルト値を指定する必要があります。
- カラム名の等号 (=) は、ご使用のデータではサポートされていません。 等号はエラーの原因となる可能性があります。
- 最高のクラス確率のみを返す SPSS マルチクラス・モデルでは、説明性はサポートされません。
詳細情報
親トピック AIモデルの評価