Les explications relatives aux transactions de votre modèle vous aident à comprendre comment les prédictions sont déterminées.

Vous pouvez analyser des explications locales pour comprendre l'impact de facteurs pour des transactions spécifiques ou analyser des explications globales pour comprendre les facteurs généraux qui ont un impact sur les résultats du modèle. Le type de modèle que vous configurez détermine le type d'explication que vous pouvez utiliser pour analyser vos transactions.

Les explications sont prises en charge pour les modèles de textes structurés, d'images et non structurés. Les modèles structurés peuvent utiliser des problèmes de classification binaire, multiclasse ou de régression. Les modèles d'image ou de texte non structuré peuvent utiliser des problèmes de classification binaire ou multiclasse.

Lorsque vous configurez la capacité d'explication, vous pouvez utiliser des explications locales interprétables (Local Interpretable Model-Agnostic Explanations - LIME), des explications contrastives ou des explications additives de Shapley (Shapley Additive explanations - SHAP) pour analyser les transactions.

LIME identifie les fonctions les plus importantes pour un point de données spécifique en analysant jusqu'à 5000 autres points de données proches. Pour un paramétrage idéal, les caractéristiques les plus importantes dans LIME sont celles qui ont le plus d'importance pour ce point de données spécifique.

Les explications contrastives calculent le nombre de valeurs à modifier pour changer la prévision ou conserver la même prévision. Les facteurs qui ont besoin d'un changement maximal sont considérés comme plus importants, de sorte que les caractéristiques qui ont la plus grande importance dans les explications contrastives sont les caractéristiques où le modèle est le moins sensible. Pour les explications contrastives, les changements maximaux pour le même résultat et les changements minimaux pour un résultat modifié sont affichés. Ces catégories sont également appelées valeurs positives pertinentes et valeurs négatives pertinentes. Elles aident à expliciter le comportement à proximité du point de données pour lequel une explication est générée.

SHAP est une approche de la théorie des jeux qui explique la sortie des modèles d'apprentissage automatique. Il connecte une allocation de crédit optimale avec des explications locales en utilisant les valeurs de Shapley et leurs extensions associées. SHAP affecte à chaque fonction de modèle une valeur d'importance pour une prévision particulière, appelée valeur de Shapley. La valeur de Shapley est la contribution marginale moyenne d'une valeur de fonction dans tous les groupes possibles de fonctions. Les valeurs SHAP des caractéristiques d'entrée sont les sommes de la différence entre la sortie de la ligne de base ou du modèle attendu et la sortie du modèle en cours pour la prévision qui est expliquée. La sortie du modèle de référence peut être basée sur le récapitulatif des données de formation ou sur tout sous-ensemble de données pour lesquelles des explications doivent être générées. Les valeurs Shapley d'un ensemble de transactions peuvent être combinées pour obtenir des explications globales qui donnent une vue d'ensemble des caractéristiques d'un modèle qui sont les plus importantes.