Translation not up to date
Można skonfigurować wyjaśnienie w programie Watson OpenScale , aby ujawnić, które opcje wpływają na przewidywany wynik modelu dla transakcji i przewidzieć, jakie zmiany spowodowałyby inny wynik.
W sekcji Możliwość wyboru na stronie konfiguracji modelu skonfiguruj wytłumaczalność w celu przeanalizowania czynników wpływających na wyniki modelu. Istnieje możliwość skonfigurowania lokalnych wyjaśnień w celu analizowania wpływu czynników na konkretne transakcje modelu oraz konfigurowania globalnych wyjaśnień w celu analizy czynników ogólnych, które wpływają na wyniki modelu.
Skonfiguruj ustawienia ogólne
Na karcie Ustawienia ogólne można ręcznie skonfigurować ustawienia wyjaśniania lub można uruchomić notatnik niestandardowy w celu wygenerowania archiwum wyjaśniania. Istnieje możliwość przesłania archiwum w celu określenia ustawień dla oceny.
Jeśli ustawienia zostaną skonfigurowane ręcznie, należy określić metody wyjaśniania, które mają być używane. Wybrane metody determinują typ spostrzeżeń, które Watson OpenScale zapewnia do wyjaśnienia. Włączenie opcji Globalne wyjaśnienieumożliwia użytkownikom wybranie opcji SHAP (Shapley Additive wyjaśnień) lub LIME (Local Interpretable Model-Agnostic wyjaśnień) jako metody opisu globalnego.
Więcej informacji na ten temat zawiera sekcja Wyjaśnianie transakcji. Jeśli nie dostarczą danych szkoleniowych, należy przesłać archiwum wyjaśniania.
Można również określić opcje sterowalne i włączyć obsługę języków. Opcje sterowalne to opcje, które mogą być zmieniane i mają istotny wpływ na wyniki modelu. Watson OpenScale analizuje dostępne opcje, które można określić w celu zidentyfikowania zmian, które mogą generować różne wyniki.
Jeśli obsługa języków zostanie włączona, opcja Watson OpenScale może analizować języki, które nie są rozdzielane spacjami, aby określić wytłumaczalność. Program Watson OpenScale można skonfigurować w taki sposób, aby automatycznie wykrywał obsługiwane języki, lub można ręcznie określić obsługiwane języki, które mają być analizowane. Nie można skonfigurować obsługi języków dla modeli ustrukturyzowanych i modeli obrazów.
Skonfiguruj wyjaśnienie SHAP
W przypadku użycia algorytmu SHAP jako metody wyjaśniania lokalnego lub włączenia wyjaśnienia globalnego SHAP należy określić ustawienia, które określają sposób, w jaki wyjaśnienia SHAP są mierzone na karcie SHAP . Aby skonfigurować wspólne ustawienia, należy określić liczbę perturbacji generowanych przez model dla każdego lokalnego wyjaśnienia i wybrać opcję korzystania z danych w tle. Watson OpenScale wykorzystuje dane w tle w celu określenia wpływu funkcji na wyniki dla globalnych i lokalnych wyjaśnień.
Jeśli globalne wyjaśnienie SHAP zostanie włączone, należy również skonfigurować ustawienia dla wyjaśnienia globalnego. Należy określić wielkość próby transakcji modelowych, która jest używana do generowania bieżących wyjaśnień i harmonogramu, który określa, kiedy zostaną wygenerowane objaśnienia. Należy również określić próg globalnej stabilności wyjaśniania i wybrać opcję, która określa sposób, w jaki Watson OpenScale generuje globalne wyjaśnienie globalne. Te ustawienia są używane do obliczania stabilności wyjaśniania globalnego.
Ograniczenia
- Podczas konfigurowania ustawień dla globalnych wyjaśnień SHAP, opcja Watson OpenScale ma następujące ograniczenia:
- Wielkość próby używana do konfigurowania wyjaśnień może mieć wpływ na liczbę wyjaśnień, które Watson OpenScale może wygenerować w określonych okresach. Jeśli zostanie podjęta próba wygenerowania wielu wyjaśnień dla dużych wielkości prób, wówczas Watson OpenScale może nie przetworzyć transakcji.
- Jeśli objaśnienia dotyczące wielu subskrypcji Watson OpenScale zostaną skonfigurowane, należy określić wartości domyślne dla wielkości próby i liczby ustawień perturbacji, jeśli wdrożenie zawiera 20 składników lub mniej.
- Opcja Watson OpenScale nie obsługuje znaków równości (=) w nazwach kolumn w danych. Znak równości może spowodować błąd.
- Wyjaśnienie nie jest obsługiwane w przypadku modeli wieloklasowych SPSS , które zwracają tylko zwycięskie prawdopodobieństwo klasy.
Więcej inform.
Temat nadrzędny: Wartościowanie modeli AI za pomocą narzędzia Watson OpenScale