Pasif ayrıştırma

Pasif ayrıştırma, Watson OpenScale ' in her saat başı otomatik olarak kendi başına yaptığı çalışmadır. Kullanıcı müdahalesi olmadan gerçekleştiği için pasif olarak kabul edilir. Watson OpenScale yanlılığı denetlediğinde, verileri de önler. Modelin davranışını analiz eder ve modelin önyargılı bir şekilde davrandığı verileri tanımlar.

Watson OpenScale , daha sonra modelin belirli bir yeni veri noktasında önyargılı bir şekilde hareket edip etmeyeceğini tahmin etmek için bir makine öğrenimi modeli oluşturur. Watson OpenScale daha sonra model tarafından alınan verileri saatlik olarak analiz eder ve sapmaya neden olan veri noktalarını bulur. Bu tür veri noktaları için, adalet özniteliği azınlıktan çoğunluğa, çoğunluk azınlığa ve perturbed verileri ise tahmin için orijinal modele gönderilir. Perturbed kaydının tahmini, orijinal öngörü ile birlikte yanlılığı hesaplamak için kullanılır.

Watson OpenScale , modelin son bir saat içinde aldığı ön yargılı kayıtları önler. Ayrıca, tarafsız çıkışın adaletini hesaplar ve bunu Taraflı Model sekmesinde görüntüler.

Etkin sapma

Etkin ayrıştırmayı, REST API uç noktası aracılığıyla uygulamanıza tarafsız sonuçları istemenizin ve uygulamanıza getirmenizin bir yoludur. Uygulamanızı önyargısız bir şekilde çalıştırabilmek için modelinizin tarafsız tahminini öğrenmek üzere Watson OpenScale ' i etkin olarak başlatabilirsiniz. Etkin sapmada, uygulamanızdan sapan bir REST API uç noktasını kullanabilirsiniz. Bu REST API uç noktası, modelinizi dahili olarak çağırır ve davranışını denetler.

Watson OpenScale , modelin önyargılı bir şekilde davrandığını algılarsa, verileri tersler ve özgün modele geri gönderir. Perturbed veri noktası üzerinde iç analizden sonra, Watson OpenScale modelin veri noktasında önyargılı bir şekilde davrandığını algılarsa, perturbed verilerindeki özgün modelin çıktısı, tarafsız öngörü olarak döndürülür.

Watson OpenScale özgün modelin önyargılı bir şekilde davranmadığını belirlerse, Watson OpenScale özgün modelin öngörüsünü tarafsız öngörü olarak döndürür. Bu nedenle, bu REST API uç noktasını kullanarak, uygulamanızın kararlarını önyargılı çıkışa dayanmamasını güvenceye alabilirsiniz.

Tarafsız değerler için verileri gözden geçirme

Adalet değerlendirmesi çalıştığında, Watson OpenScale model devreye alımının bilgi yükü günlük kaydı tablosunda tarafsız değerleri saklar. Uygulanabilir olduğu şekilde, bu uç nokta üzerinden yapılan tüm puanlama işlemleri otomatik olarak tarafsız olur. Devreye alınan modeliniz için normal puanlama uç noktası gibi tarafsız puanlama uç noktasına erişebilirsiniz. Devreye alınan modelinizin yanıtını döndürmenin yanı sıra debiased_prediction ve debiased_probability sütunlarını da döndürür.

• debiased_prediction sütunu, tarafsız öngörü değerini içerir.

• debiased_probability sütunu, tarafsız öngörü olasılığını temsil eder. Bu çift değer dizisi, öngörü sınıflarından birine ait olan tarafsız öngörü olasılığını temsil eder.

wos_client.monitor_instances.update(
            monitor_instance_id=<FAIRNESS_MONITOR_INSTANCE_ID>,
            patch_document=[JsonPatchOperation(
                op=OperationTypes.ADD,
                path='/parameters/perform_debias',
                value=True
            )],update_metadata_only=True
        )

Tarafsız işlemleri gözden geçirme

Tarafsız işlemler uç noktasını, adil değerlendirmeler için tarafsız işlemleri gözden geçirmek için kullanabilirsiniz. Daha fazla bilgi için bkz. Watson OpenScale' de model işlemlerini gönderme.

Sapma uç noktası çalıştırma zamanı sapmasıyla ilgilendiğinden, bilgi yükü günlük kaydı tablosundan puanlama verileri için arka plan denetimlerini çalıştırmaya devam eder. Ayrıca, puanlama isteklerini önleyen önyargı azaltma modelini güncellemeye devam eder. Bu şekilde, Watson OpenScale her zaman gelen verilerle günceldir ve önyargıyı saptama ve azaltma davranışlarıyla birlikte gelir.

Verilerin ne zaman kabul edilebilir ve tarafsız olduğunu belirtmek için Watson OpenScale ' de bir adalet eşiği yapılandırabilirsiniz.