Débiaisement passif

Le débiaisement passif correspond au travail que Watson OpenScale effectue lui-même, automatiquement, toutes les heures. Il est considéré passif car il s'effectue sans intervention de l'utilisateur. Lorsque Watson OpenScale recherche le biais, il débiaise également les données. Il analyse le comportement du modèle et identifie les données où le modèle agit de façon biaisée.

Watson OpenScale génère ensuite un modèle d'apprentissage automatique afin de prévoir si le modèle est susceptible d'agir de façon biaisée sur un nouveau point de données donné. Watson OpenScale analyse ensuite les données reçues par le modèle, sur une base horaire, et trouve les points de données à l'origine du biais. Pour ces points de données, l'attribut d'équité est perturbé de la minorité à la majorité, et de la majorité à la minorité, et les données perturbées sont envoyées au modèle d'origine pour la prévision. La prédiction de l'enregistrement perturbé, ainsi que la prédiction originale, est utilisée pour calculer le biais.

Watson OpenScale débiaise les enregistrements biaisés identifiés que le modèle reçoit au cours de la dernière heure. Il calcule également l'équité de la sortie déformée et l'affiche dans l'onglet de modèle déformée.

Débiaisement actif

Le débiaisement actif constitue un moyen de demander et d'apporter des résultats débiaisés dans votre application via le noeud final d'API REST. Vous pouvez appeler activement Watson OpenScale pour connaître la prévision débiaisée de votre modèle afin de pouvoir exécuter votre application de manière non biaisée. Dans le débiaisement actif, vous pouvez utiliser un noeud final d'API REST de votre application. Ce noeud final appelle en interne votre modèle et en vérifie le comportement.

Si Watson OpenScale détecte que le modèle agit de façon biaisée, il perturbe les données et les renvoie au modèle initial. Après analyse interne sur le point de données perturbé, si Watson OpenScale détecte que le modèle se comporte de manière biaisée sur le point de données, la sortie du modèle d'origine sur les données perturbées est renvoyée en tant que prévision débiaisée.

Si Watson OpenScale détermine que le modèle d'origine n'agit pas de manière partiale, Watson OpenScale renvoie la prévision du modèle d'origine comme prévision déformée. Ainsi, en utilisant le noeud final d'API REST, vous pouvez vous assurer que votre application ne base pas ses décisions sur une sortie biaisée.

Examen des données pour les valeurs débiaisées

Lorsque l'évaluation de l'équité s'exécute, Watson OpenScale stocke les valeurs débiaisées dans la table de journalisation de contenu utile du déploiement de modèle. Toutes les transactions d'évaluation effectuées via ce point d'extrémité sont automatiquement débiaisées, le cas échéant. Vous pouvez accéder au point d'extrémité d'évaluation débiaisé comme vous le feriez pour le point d'extrémité d'évaluation normal de votre modèle déployé. En plus de la réponse du modèle déployé, il renvoie les colonnes debiased_prediction et debiased_probability.

• La colonne debiased_prediction contient la valeur de prévision débiaisée.

• La colonne debiased_probability représente la probabilité de la prévision débiaisée. Ce tableau de valeurs doubles représente la probabilité de la prévision débiaisée qui appartient à l'une des classes de prévision.

Etapes suivantes

• Options du débiaisement
• Visualisation des données d'évaluation
• Affichage des résultats d'équité pour le biais indirect

Rubrique parent: Examen des connaissances de modèle avec Watson OpenScale