Watson OpenScale , tahminlerin nasıl belirlendiğini anlamanıza yardımcı olmak için model işlemleriniz için açıklamalar sağlar.

Belirli işlemlere ilişkin etkenlerin etkisini anlamak için yerel açıklamaları analiz edebilir ya da model sonuçlarını etkileyen genel etkenleri anlamak için genel açıklamaları analiz edebilirsiniz. Yapılandırdığınız model tipi, hareketlerinizi çözümlemek için kullanabileceğiniz açıklama tipini belirler.

Watson OpenScale , yapısal, resim ve yapısal olmayan metin modellerine ilişkin açıklamaları destekler. Yapısal modeller ikili, çok değişkenli ya da regresyon sınıflandırma sorunlarını kullanabilir. Resim ya da yapısal olmayan metin modelleri ikili ya da çok değişkenli sınıflandırma sorunlarını kullanabilir.

Watson OpenScale' de açıklanabilirliği yapılandırırken, işlemleri analiz etmek için Yerel Yorumlanabilir Model-agnostik Açıklamalar (LIME), karşıt açıklamalar ya da Shapley Ekleyici açıklamaları (SHAP) kullanabilirsiniz.

LIME, 5000 'e kadar diğer yakın veri noktasını analiz ederek belirli bir veri noktası için en önemli özellikleri tanımlar. İdeal bir ayarda, LIME ' de yüksek önem taşıyan özellikler, bu belirli veri noktası için en önemli özelliklerdir.

Karşıt açıklamalar, öngörüleri değiştirmek veya aynı öngörüleri korumak için kaç değerin değişmesi gerektiğini hesaplar. Maksimum değişikliğe ihtiyacı olan faktörler daha önemli kabul edilir, bu nedenle zıt açıklamalarda en yüksek öneme sahip özellikler, modelin en az hassas olduğu özelliklerdir. Zıt açıklamalar için, Watson OpenScale aynı sonuç için maksimum değişiklikleri ve değişen bir sonuç için minimum değişiklikleri görüntüler. Bu kategoriler, ilgili pozitif ve ilgili negatif değerler olarak da bilinir. Bu değerler, bir açıklamanın oluşturulduğu veri noktasının yakınında modelin davranışını açıklamaya yardımcı olur.

SHAP, makine öğrenimi modellerinin çıktısını açıklayan bir oyun kuramsal yaklaşımdır. Shapley değerlerini ve ilgili uzantılarını kullanarak yerel açıklamalarla optimum kredi tahsisini birbirine bağlar. SHAP, her bir model için Şekil değeriolarak adlandırılan belirli bir öngörü için önem değeri atar. Shape değeri, bir özellik değerinin tüm olası özellik gruplarında ortalama marjinal katkısıdır. Giriş özelliklerinin SHAP değerleri, temel çizgi ya da beklenen model çıkışı ile açıklanmakta olan öngörü için geçerli model çıkışı arasındaki farkın toplamasıdır. Temel çizgi modeli çıkışı, eğitim verilerinin özetine ya da açıklamalar oluşturulması gereken herhangi bir veri alt kümesine dayalı olabilir. Bir işlem kümesinin Shapley değerleri, bir modelin hangi özelliklerinin en önemli olduğuna ilişkin genel bir bakış sağlayan genel açıklamalar elde etmek için birleştirilebilir.