Las explicaciones de las transacciones de tu modelo te ayudan a entender cómo se determinan las predicciones.

Puede analizar explicaciones locales para comprender el impacto de los factores para transacciones específicas o analizar explicaciones globales para comprender los factores generales que afectan a los resultados del modelo. El tipo de modelo que configure determina el tipo de explicación que puede utilizar para analizar las transacciones.

Se admiten explicaciones para modelos de texto estructurado, de imagen y no estructurado. Los modelos estructurados pueden utilizar problemas de clasificación binaria, de varias clases o de regresión. Los modelos de texto de imagen o no estructurados pueden utilizar problemas de clasificación binaria o multiclase.

Al configurar la explicabilidad, puede utilizar explicaciones agnósticas de modelos interpretables locales (LIME), explicaciones contrastivas o explicaciones aditivas de Shapley (SHAP) para analizar las transacciones.

LIME identifica qué características son más importantes para un punto de datos específico analizando hasta 5000 otros puntos de datos cercanos. En un escenario ideal, las características de mayor importancia en la LIME son las características más importantes para ese punto de datos específico.

Las explicaciones contrastivas calculan cuántos valores deben cambiar para cambiar la predicción o mantener la misma predicción. Los factores que necesitan el máximo cambio se consideran más importantes, por lo que las características con mayor importancia en las explicaciones contrastativas son las características en las que el modelo es menos sensible. Para las explicaciones contrastivas, se muestran los cambios máximos para el mismo resultado y los cambios mínimos para un resultado modificado. Estas categorías también se conocen como valores negativos pertinentes y positivos pertinentes. Estos valores ayudan a explicar el comportamiento del modelo en las proximidades del punto de datos para el que se genera una explicación.

SHAP es un enfoque teórico de juego que explica la salida de los modelos de aprendizaje automático. Conecta la asignación óptima de crédito con las explicaciones locales utilizando los valores de Shapley y sus extensiones relacionadas. SHAP asigna a cada característica de modelo un valor de importancia para una predicción determinada, que se denomina valor Shapley. El valor de Shapley es la contribución marginal media de un valor de característica en todos los grupos de características posibles. Los valores SHAP de las características de entrada son las sumas de la diferencia entre la salida de modelo de línea base o esperada y la salida de modelo actual para la predicción que se está explicando. El resultado del modelo base puede basarse en el resumen de los datos de entrenamiento o en cualquier subconjunto de datos para los que se deben generar explicaciones. Los valores de Shapley de un conjunto de transacciones se pueden combinar para obtener explicaciones globales que proporcionan una visión general de las características más importantes de un modelo.