Öğrenme hedefleri
Bu haftanın sonunda:
- 1 Yorumlanabilirlik ile açıklanabilirliği ayırır; küresel/yerel, model-bağımlı/bağımsız, içsel/post-hoc eksenlerinde yöntemleri sınıflar.
- 2 Genelleştirilmiş toplamsal modeller (GAM/EBM) ve seyrek doğrusal modelleri yüksek riskli kararlar için savunur ve kurar.
- 3 Permütasyon önemi, kısmi bağımlılık (PDP), bireysel koşullu beklenti (ICE) ve ALE eğrilerini hesaplar ve yorumlar.
- 4 Açıklamaların sadakat (fidelity), kararlılık ve insan-anlaşılırlık ölçütlerini tartışır; Rudin'in kara kutu eleştirisini değerlendirir.
Ders Notları
Ayrıntılı notlar ve türetimler ders yaklaştıkça buraya eklenecektir.
Temel Kavramlar
- Yorumlanabilirlik vs açıklanabilirlik — Yorumlanabilir model kendi başına anlaşılır (seyrek lojistik, GAM); açıklanabilirlik kara kutuyu sonradan (post-hoc) açıklamaktır.
- Küresel vs yerel — Küresel: modelin genel davranışı (hangi öznitelik önemli); yerel: tek bir hastanın tahmini neden böyle.
- Kısmi bağımlılık (PDP) — Bir özniteliğin diğerleri üzerinden ortalanmış marjinal etkisi; ilişkili özniteliklerde yanıltıcı olabilir, ALE bunu düzeltir.
- ICE — PDP’nin bireysel hasta eğrileri; heterojen etkileri ve etkileşimleri ortaya çıkarır.
- Sadakat (fidelity) — Açıklamanın modelin gerçek davranışını ne kadar doğru yansıttığı; açıklama ≠ nedensel gerçek.
Biyomedikal Uygulama Örnekleri
- Caruana ve ark. (2015): Pnömoni mortalite modelinde ‘astım → düşük risk’ kuralının GAM ile yakalanması ve klinik açıklaması (astımlılar yoğun bakıma alınıyor).
- Kardiyovasküler risk modelinde yaşın PDP’si: monoton beklenirken 80+ yaşta düşen eğri, sağkalım yanlılığının işareti.
Uygulama / Laboratuvar
- haftadaki XGBoost modeline permütasyon önemi, PDP, ICE ve ALE uygulayın; ilişkili öznitelik çiftinde PDP ile ALE farkını gösterin. Aynı veriyi EBM ile modelleyip başarım kaybını ve kazanılan yorumlanabilirliği tabloya dökün. Bir klinisyene sunacağınız iki paragraflık ‘model nasıl karar veriyor’ özeti yazın.
Tartışma Soruları
- Rudin’in ‘yüksek riskli kararlarda kara kutuyu açıklamayı bırakın, yorumlanabilir model kullanın’ tezi biyomedikal görüntü için de geçerli midir?
- PDP’de görülen ilişki nedensel midir? Hangi koşullarda nedensel yoruma yaklaşır?
Haftanın Özeti
Açıklanabilirliğin kavram haritasını çizdik ve küresel post-hoc yöntemleri uyguladık. Gelecek hafta yerel açıklamalara (SHAP, LIME, Grad-CAM) ve adalete geçiyoruz.
Bu haftanın veri setleri
- UCI Heart Failure Clinical Records
- 5. haftanın XGBoost modeli — Post-hoc yöntemler için kara kutu.
Araçlar ve kütüphaneler
- scikit-learn (inspection)
- interpret (EBM)
- PyALE
- matplotlib
Okuma listesi
- KitapMolnar C. Interpretable Machine Learning, Bölüm: Interpretability, Interpretable Models, Global Model-Agnostic Methods. — Ana kaynak.
- MakaleRudin C. Stop explaining black box machine learning models for high stakes decisions. Nat Mach Intell 2019.
- MakaleCaruana R ve ark. Intelligible models for healthcare: predicting pneumonia risk and hospital 30-day readmission. KDD 2015.
- MakaleApley DW, Zhu J. Visualizing the effects of predictor variables in black box supervised learning models (ALE). JRSS-B 2020.
Etiketler:XAIyorumlanabilirlikGAMEBMpermütasyon önemiPDPICEALEpost-hocRudin