Pasivní debiasing

Pasivní debiasing je práce, kterou Watson OpenScale provádí sama o sobě, automaticky každou hodinu. Je považován za pasivní, protože se děje bez zásahu uživatele. Když produkt Watson OpenScale provádí kontroly předpojatosti, je také debilazis daty. Analyzuje chování modelu a identifikuje data, ve kterých se model chová zkresleným způsobem.

Produkt Watson OpenScale pak sestaví strojový výukový model, který předpovídá, zda bude model pravděpodobně v daném okamžiku jednat zkresleným způsobem, a dále s novým datovým bodem. Watson OpenScale pak analyzuje data, která model přijme, každou hodinu a vyhledá datové body, které způsobují zkreslení. Pro takové datové body je atribut spravedlivosti pertulovaný z menšinové většiny a většina na menšinu a pertulolovaná data se posílají na původní model pro předpověď. Pro výpočet předpojatosti se používá predikce záznamu perturbury, spolu s původní predikcí.

Watson OpenScale odbiuje identifikované zkreslené záznamy, které model přijímá za poslední hodinu. Také vypočítá spravedlnost pro zkreslený výstup a zobrazí jej na kartě Odpředený model .

Aktivní debiasing

Aktivní odbizování je způsob, jak si vyžádat a přenést zkreslené výsledky do vaší aplikace prostřednictvím koncového bodu rozhraní REST API. Můžete aktivně vyvolat aplikaci Watson OpenScale , abyste mohli znát zkreslenou předpověď modelu, abyste mohli svou aplikaci spustit bez předpojatosti. V aktivním zrušení debiasing můžete ze své aplikace použít koncový bod REST API pro zrušení dvojuživatele. Tento koncový bod rozhraní REST API interně volá váš model a kontroluje jeho chování.

Pokud produkt Watson OpenScale zjistí, že model vystupuje zkresleným způsobem, převede data zpět a odešle je zpět původnímu modelu. Po interní analýze na datovém bodu perturbed, pokud produkt Watson OpenScale zjistí, že se model chová nepředpojatým způsobem datového bodu, je výstup původního modelu na pertulovaná data vrácen jako predikovaná predikce.

Pokud produkt Watson OpenScale zjistí, že původní model není nepředpojatý, vrací produkt Watson OpenScale predikci původního modelu jako nepředpojatou předpověď. Proto můžete pomocí tohoto koncového bodu rozhraní REST API zajistit, aby vaše aplikace nebyla založena na předpojatých výstupních rozhodnutích.

Přezkoumávání údajů pro zkreslené hodnoty

Když je vyhodnocení spravedlnosti spuštěno, produkt Watson OpenScale ukládá hodnoty nezaujaté v tabulce protokolování informačního obsahu implementace modelu. Všechny bodování transakcí provedených prostřednictvím tohoto koncového bodu jsou automaticky zkreslené, jak je použitelné. Můžete přistupovat ke koncovému bodu s překročenými skóre, stejně jako byste měli koncový bod normálního skóre pro váš implementovaný model. Kromě vrácení odezvy implementovaného modelu také vrací sloupce debiased_prediction a debiased_probability .

• Sloupec debiased_prediction obsahuje dezkreslenou hodnotu predikce.

• Sloupec debiased_probability představuje pravděpodobnost nepředpojaté předpovědi. Toto pole hodnot typu double představuje pravděpodobnost nepředpojaté předpovědi, která patří do jedné z tříd předpovědí.

Další kroky

• Volby zabránění duplikaci
• Vizualizace dat vyhodnocení
• Zobrazení výsledků spravedlnosti pro nepřímé zkreslení

Nadřízené téma: Přezkoumávání poznatků modelu pomocí produktu Watson OpenScale