Translation not up to date
Můžete nakonfigurovat vysvětlitelnost v produktu Watson OpenScale , abyste odhalili, které funkce přispívají k předpovídanému výsledku modelu pro danou transakci a předpovídají, jaké změny by vedly k odlišnému výsledku.
V sekci Vysvětlitelnost na stránce vaší konfigurace modelu nakonfigurujte vysvětlitelnost pro analýzu faktorů, které ovlivňují výsledky vašeho modelu. Můžete zvolit lokální vysvětlení pro analýzu dopadu faktorů pro specifické modelová transakce a konfigurovat globální vysvětlení k analýze obecných faktorů, které mají dopad na výsledky modelu.
Konfigurovat obecná nastavení
Na kartě Obecná nastavení můžete ručně konfigurovat nastavení vysvětlitelnosti nebo můžete spustit vlastní zápisník , který vygeneruje archiv vysvětlitelnosti. Chcete-li určit nastavení pro vaše vyhodnocení, můžete odeslat archiv.
Pokud nakonfigurujete nastavení ručně, je třeba určit metody vysvětlení, které chcete použít. Metody, které vyberete, určují typ poznatků, které produkt Watson OpenScale poskytuje pro vysvětlitelnost. Povolením Globálního vysvětlenímohou uživatelé zvolit buď SHAP (Shapley Additive explanations), nebo LIME (Local Interpretable Model-Agnostic explanations) jako globální metodu vysvětlení.
Další informace najdete v tématu Prozkoumání transakcí. Pokud neposkytujete údaje o školení, budete muset odeslat archiv vysvětlitelnosti.
Můžete také zvolit určení funkcí řídicího prvku a podporu jazykové podpory. Kontrolovatelné funkce jsou funkce, které lze měnit a které mají významný dopad na výsledky modelu. Produkt Watson OpenScale analyzuje kontrolovatelné funkce, které určujete k identifikaci změn, které mohou vést k různým výsledkům.
Povolíte-li jazykovou podporu, produkt Watson OpenScale může analyzovat jazyky, které nejsou oddělené mezerou, aby určily vysvětlitelnost. Produkt Watson OpenScale můžete nakonfigurovat tak, aby automaticky zjišťoval podporované jazyky, nebo můžete ručně určit podporované jazyky, které chcete analyzovat. Pro strukturované modely a modely obrázků nelze konfigurovat jazykovou podporu.
Konfigurovat vysvětlení SHAP
Pokud použijete SHAP jako lokální vysvětlující metodu nebo povolíte globální vysvětlení SHAP, musíte uvést nastavení, která určí, jak se vysvětlení SHAP měří na kartě SHAP . Chcete-li konfigurovat společná nastavení, musíte uvést počet poruch, které model vygeneruje pro každé místní vysvětlení, a vyberte volbu pro použití dat pozadí. Produkt Watson OpenScale používá data pozadí k určení vlivu funkcí na výsledky pro globální a lokální vysvětlení.
Povolíte-li globální vysvětlení SHAP, musíte také nakonfigurovat nastavení pro globální vysvětlení. Musíte uvést velikost vzorku modelových transakcí, které se používají ke generování průběžných vysvětlení, a časového plánu, který určuje, kdy se vygenerují vysvětlení. Musíte také zadat globální prahovou hodnotu pro stabilitu vysvětlení a vybrat volbu, která určuje, jak produkt Watson OpenScale vygeneruje globální vysvětlení úrovně baseline. Tato nastavení se používají k výpočtu stability globálního vysvětlení.
Omezení
- Když konfigurujete nastavení pro globální vysvětlení SHAP, má produkt Watson OpenScale tato omezení:
- Velikost vzorku, kterou použijete ke konfiguraci vysvětlení, může ovlivnit počet vysvětlení, která může produkt Watson OpenScale generovat během specifických časových období. Pokusíte-li se vygenerovat více vysvětlení pro velké ukázkové velikosti, produkt Watson OpenScale nemusí zpracování vašich transakcí zpracovat.
- Pokud nakonfigurujete vysvětlení pro více odběrů produktu Watson OpenScale , je třeba určit výchozí hodnoty pro velikost vzorku a počet nastavení poruch, když vaše implementace obsahuje 20 funkcí nebo méně.
- Watson OpenScale nepodporuje rovnítka (=) ve jménech sloupců ve vašich datech. Znaménko rovná se může způsobit chybu.
- Exploiabilita není podporována pro modely SPSS s modely s více třídami, které vracejí pouze pravděpodobnost vítězů třídy.
Další informace
Nadřízené téma: Vyhodnocování modelů AI s produktem Watson OpenScale