Eliminación del sesgo pasiva

La eliminación del sesgo pasiva es el trabajo que Watson OpenScale hace por sí mismo, automáticamente, cada hora. Se considera pasiva porque se lleva a cabo sin la interacción del usuario. Cuando Watson OpenScale comprueba el sesgo, también elimina el sesgo de los datos. Analiza el comportamiento del modelo e identifica los datos en los que el modelo actúa de forma sesgada.

Watson OpenScale crea un modelo de aprendizaje automático para pronosticar si es probable que el modelo actúe de forma sesgada en un determinado punto de datos nuevo. Watson OpenScale analiza los datos recibidos por el modelo, cada hora, y encuentra los puntos de datos que provocan sesgos. Para estos puntos de datos, el atributo de equidad se perturbe de minoría a mayoría, y de mayoría a minoría, y los datos perturbados se envían al modelo original para la predicción. La predicción del registro perturbado, junto con la predicción original, se utiliza para calcular el sesgo.

Watson OpenScale elimina el sesgo de los registros sesgados identificados que el modelo recibe en la última hora. También calcula la equidad para el resultado con el sesgo corregido y la muestra en la pestaña Modelo con el sesgo corregido.

Eliminación del sesgo activa

La eliminación del sesgo activa es una forma de solicitar y traer resultados con el sesgo corregido a la aplicación a través del punto final de la API REST. Puede invocar de forma activa Watson OpenScale para conocer la predicción sin sesgo del modelo de forma que pueda ejecutar la aplicación sin sesgo. En la eliminación del sesgo activa, puede utilizar un punto final de API REST de eliminación del sesgo de la aplicación. Este punto final de la API REST llama internamente al modelo y comprueba su comportamiento.

Si Watson OpenScale detecta que el modelo está actuando de forma sesgada, perturbará los datos y los envía de nuevo al modelo original. Después del análisis interno en el punto de datos perturbado, si Watson OpenScale detecta que el modelo se está comportando de forma sesgada en el punto de datos, la salida del modelo original en los datos perturbados se devuelve como la predicción sin sesgo.

Si Watson OpenScale determina que el modelo original no está actuando de forma sesgada, Watson OpenScale devuelve la predicción del modelo original como el pronóstico con el sesgo corregido. Por lo tanto, al utilizar este punto final de la API REST, puede asegurarse de que la aplicación no base las decisiones en la salida sesgada.

Revisión de datos para valores sin sesgo

Cuando se ejecuta la evaluación de equidad, Watson OpenScale almacena los valores sin sesgo en la tabla de registro de carga útil del despliegue del modelo. Todas las transacciones de puntuación realizadas a través de este punto final se eliminarán automáticamente, según corresponda. Puede acceder al punto final de puntuación sin sesgo del mismo modo que lo haría con el punto final de puntuación normal para el modelo desplegado. Además de devolver la respuesta del modelo desplegado, también devuelve dos columnas debiased_prediction y debiased_probability.

• La columna debiased_prediction contiene el valor de la predicción sin sesgo.

• La columna debiased_probability representa la probabilidad de la predicción sin sesgo. Este conjunto de valores dobles representa la probabilidad de la predicción sin sesgo que pertenece a una de las clases de predicción.

Próximos pasos

• Opciones de eliminación del sesgo
• Visualización de datos de evaluación
• Visualización de resultados de equidad para sesgo indirecto

Tema padre: Revisión de la información del modelo con Watson OpenScale