Reliability of Post-hoc Explanations for Deep ECG Classification: A Faithfulness, Causal, and Stability Evaluation
Derin EKG Sınıflandırmasında Post-hoc Açıklamaların Güvenilirliği: Sadakat, Nedensellik ve Kararlılık Değerlendirmesi
- Tez No: 922196
- Danışmanlar: DR. ONUR DEMİR
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Mühendislik Bilimleri, Computer Engineering and Computer Science and Control, Engineering Sciences
- Anahtar Kelimeler: açıklanabilir yapay zeka, EKG sınıflandırması, sadakat, nedensel ablasyon, kararlılık, PTB-XL, explainable AI, ECG classification, faithfulness, causal ablation, stability, PTB-XL
- Yıl: 2026
- Dil: İngilizce
- Üniversite: Yeditepe Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Veri Bilimi Ana Bilim Dalı (disiplinlerarası)
- Bilim Dalı: Veri Bilimi Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Derin öğrenme modelleri EKG'leri yüksek doğrulukla sınıflandırır; ancak klinik kullanımı açıklamalarının güvenilirliğine bağlıdır. Post-hoc açıklama yöntemleri yaygın kullanılsa da genellikle nitel raporlanır ve çoğu, zaman serileri için değil görüntüler için geliştirilmiştir. Bu tez, bu açıklamaların bir 1B EKG sınıflandırıcısı üzerindeki güvenilirliğinin nasıl ölçülebileceğini incelemektedir. Beş tanısal süpersınıfın çok-etiketli sınıflandırması için PTB-XL üzerinde bir tek-boyutlu ResNet eğitildi; veri kümesinin hasta bazlı fold ataması kullanılarak hiçbir hastanın birden fazla bölümde yer almaması sağlandı (test makro-AUC 0,930). Dört atıf yöntemi (Integrated Gradients, Grad-CAM, GradientSHAP ve LIME) dört eksende değerlendirildi: NeuroKit2 tabanlı dalga-örtüşme ile klinik uyum, insertion/deletion ile sadakat, dalga ablasyonu ile nedensel bağımlılık, ve beş farklı tohumla eğitilen modeller üzerinden kararlılık. Yöntemler belirgin biçimde farklılaşmaktadır. Integrated Gradients ile GradientSHAP neredeyse tümüyle uyuşur (𝑟 = 0,98); LIME her ikisiyle de uyumlu fakat kayıt başına iki kat daha oynaktır; Grad-CAM ise üçüyle de ilişkisizdir: son ReLU'su kayıtların %47,1'inde (normal tahminlerde %75,3) haritayı tümüyle sıfırlar. Tüm yöntemlerde QRS kompleksi her sınıfta baskındır ve ablasyon, modelin QRS'e nedensel olarak bağımlı olduğunu, buna karşın enfarktüs için ST segmentini nedensel olarak kullanmadığını doğrular — bu, klinik ilişkinin tersidir. Son olarak, performansları ayırt edilemeyen beş model (0,9337 ± 0,0010) en önemli zaman noktalarının yalnızca %77'sini paylaşmakta; dalga düzeyinde toplama bu oynaklığı baskın dalga için %7'ye indirmektedir.
Özet (Çeviri)
Deep learning models classify ECGs accurately, but their clinical adoption depends on whether their explanations can be trusted. Post-hoc explanation methods are widely applied yet are often reported qualitatively, and most were developed for images rather than time series. This thesis asks how the reliability of such explanations can be measured on a 1D ECG classifier. A one-dimensional ResNet was trained on PTB-XL for multi-label classification of five diagnostic superclasses, using the dataset's patient-wise fold assignment so that no patient appears in more than one split (test macro-AUC 0.930). Four attribution methods (Integrated Gradients, Grad-CAM, GradientSHAP, and LIME) were evaluated along four axes: clinical alignment through a NeuroKit2-based wave-overlap framework, faithfulness through insertion/deletion curves, causal dependence through wave ablation, and stability across five models trained from different random seeds. The methods differ substantially. Integrated Gradients and GradientSHAP agree almost perfectly (𝑟 = 0.98), LIME agrees with both (𝑟 ≈ 0.85) but is roughly twice as variable per recording, and Grad-CAM is uncorrelated with all three: its final ReLU returns an all-zero map for 47.1% of held-out recordings (75.3% for those predicted normal). Across methods, the QRS complex dominates every class, and ablation confirms that the model depends causally on QRS throughout, while making no causal use of the ST segment for infarction — the reverse of the clinical relationship. Finally, five models with indistinguishable performance (0.9337 ± 0.0010) share only 77% of their most important timepoints, though wave-level aggregation reduces this to 7% for the dominant wave.
Benzer Tezler
- Finansal sistemler için bütünleşik bir açıklanabilir yapay zekâ çerçevesi geliştirilmesi
Developing an integrated explainable artificial intelligence framework for financial systems
ABDULLAH EMİR ÇİL
- Gelişimsel Düzenleme Modeli çerçevesinde genç yetişkin, orta yaş ve yaşlılıkta kontrol stratejilerinin incelenmesi
Developmental regulation across adulthood: An investigation of control strategies in young, adulthood, middle age and old age
ZEHRA UÇANOK
- Dağıtık üretim güç sistemlerinde geliştirilmiş oylama modeli tabanlı arıza tespiti ve sınıflandırması
Improved voting model based fault detection and classification in distributed generation power systems
FEVZEDDİN ÜLKER
- İlköğretim 7 ve 8. sınıf öğrencilerinin şiddet eğilimlerinin çeşitli değişkenler açısından incelenmesi [Kocaeli ili Gebze ilçesi örnegi]
To be analyzed the violence inclinations of the 7 and 8 graders students of primary school in terms of wll-rounded variables [The sample of Kocaeli province and district of Gebze]
NESİM YAVUZ
- Küresel ısınma ve iklim değişikliği konusunda öğrencifarkındalığının belirlenmesi: Medipol üniversitesi örneği
Determining student awareness on global warming and climate change: The case of Medipol university
CANAN YAZICI TEKGÜL
