Öğrenme hedefleri
Bu haftanın sonunda:
- 1 Shapley değerlerinin aksiyomlarını açıklar; TreeSHAP, DeepSHAP ve KernelSHAP'ın ne zaman kullanıldığını ayırt eder; SHAP özet, bağımlılık ve şelale grafiklerini yorumlar.
- 2 LIME'ın yerel vekil model mantığını kurar; kararsızlık ve komşuluk tanımı sorunlarını tartışır.
- 3 Grad-CAM ve Integrated Gradients ile CNN kararlarını görselleştirir; tıbbi görüntüde 'doğru yere bakma' değerlendirmesi yapar.
- 4 Karşıt-olgusal açıklamalar üretir (DiCE); geçerlilik, yakınlık ve eyleme dönüştürülebilirlik ölçütlerini uygular.
- 5 Demografik parite, eşit fırsat ve kalibrasyon eşitliği gibi adalet ölçütlerini hesaplar; alt-grup analizini rapor standardı hâline getirir.
Ders Notları
Ayrıntılı notlar ve türetimler ders yaklaştıkça buraya eklenecektir.
Temel Kavramlar
- Shapley değeri — Özniteliğin tüm koalisyonlardaki ortalama marjinal katkısı; verimlilik, simetri, sahte oyuncu ve toplamsallık aksiyomlarını sağlayan tek çözüm.
- SHAP — Shapley değerlerinin yerel açıklamaya uyarlanması; TreeSHAP ağaç modellerinde polinom zamanda kesin hesap yapar.
- LIME — Tek gözlemin çevresinde bozulmuş örneklerle eğitilen seyrek doğrusal vekil model; hızlı ama komşuluk seçimine duyarlı.
- Grad-CAM — Son evrişim katmanının sınıf-özel gradyanlarla ağırlıklandırılmış ısı haritası; modelin ‘baktığı’ bölgeyi gösterir.
- Karşıt-olgusal açıklama — ‘Şu öznitelikler şöyle olsaydı karar değişirdi’: hastaya eyleme dönük öneri üretir; tıbbi olarak mümkün olmalıdır.
- Adalet ölçütleri — Demografik parite (pozitif oranı eşit), eşit fırsat (duyarlılık eşit), kalibrasyon eşitliği; aynı anda hepsini sağlamak genelde imkânsızdır.
Biyomedikal Uygulama Örnekleri
- Sepsis modelinde hasta düzeyinde SHAP şelale grafiği: laktat ve solunum sayısının katkısı; klinisyenin ‘ama bu hasta KOAH’ itirazı ve etkileşim değerleri.
- Göğüs röntgeni pnömoni modelinde Grad-CAM’in akciğer dışına (cihaz etiketine) yoğunlaşması: 10. haftadaki kısayol öğrenmenin görsel kanıtı.
- Obermeyer ve ark. (2019): Sağlık harcamasını hastalık şiddetinin vekili olarak kullanan algoritmanın Siyah hastaları sistematik olarak düşük riske atması.
- Pulse oksimetre ve deri rengi: girdi ölçümündeki yanlılığın modele taşınması.
Uygulama / Laboratuvar
XGBoost modeline TreeSHAP uygulayın: özet, bağımlılık ve üç hasta için şelale grafikleri. Aynı hastaları LIME ile açıklayıp tutarlılığı ölçün. CNN’e Grad-CAM uygulayıp radyolojik olarak anlamlı bölgeyle örtüşmeyi değerlendirin. DiCE ile iki hastaya karşıt-olgusal öneri üretin. Son olarak fairlearn ile cinsiyet/yaş alt-gruplarında duyarlılık, özgüllük ve kalibrasyonu karşılaştırın.
Tartışma Soruları
- SHAP değerleri yüksek çıkan bir öznitelik ‘nedensel’ midir? Klinisyene bunu nasıl anlatırsınız?
- Alt-grupta duyarlılığı eşitlemek için eşik farklılaştırmak adil midir? Hangi adalet tanımına göre?
Haftanın Özeti
Yerel açıklama yöntemlerinin tamamını uyguladık ve adaleti ölçülebilir bir rapor bileşeni hâline getirdik. Son hafta bu araçları klinik uygulamaya hazır bir sistemin parçası olarak ele alıyor.
Bu haftanın veri setleri
- 5. ve 9. haftaların modelleri (XGBoost, MLP) — SHAP/LIME uygulaması.
- 10. haftanın PneumoniaMNIST CNN'i — Grad-CAM.
- MIMIC-III Demo (demografi ile) — Alt-grup adalet analizi.
Araçlar ve kütüphaneler
- shap
- lime
- captum
- dice-ml
- fairlearn
Okuma listesi
- MakaleLundberg SM, Lee S-I. A Unified Approach to Interpreting Model Predictions. NeurIPS 2017.
- MakaleRibeiro MT, Singh S, Guestrin C. 'Why Should I Trust You?' Explaining the Predictions of Any Classifier. KDD 2016.
- MakaleSelvaraju RR ve ark. Grad-CAM. ICCV 2017.
- MakaleWachter S, Mittelstadt B, Russell C. Counterfactual explanations without opening the black box. Harvard JOLT 2018.
- MakaleObermeyer Z ve ark. Dissecting racial bias in an algorithm used to manage the health of populations. Science 2019.
- MakaleGhassemi M, Oakden-Rayner L, Beam AL. The false hope of current approaches to explainable AI in health care. Lancet Digit Health 2021. — Eleştirel karşı görüş.
Etiketler:SHAPShapleyLIMEGrad-CAMIntegrated Gradientskarşıt-olgusalyanlılıkadaleteşit fırsatDiCE