Retinal damar segmentasyonu için çoklu öğretmen tabanlı bilgi damıtma
Multi-teacher based knowledge distillation for retinal vessel segmentation
- Tez No: 964973
- Danışmanlar: DR. ÖĞR. ÜYESİ MUSA AYDIN, DR. ÖĞR. ÜYESİ ZEKİ KUŞ
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2025
- Dil: Türkçe
- Üniversite: Fatih Sultan Mehmet Vakıf Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Bilgisayar Mühendisliği Bilim Dalı
- Sayfa Sayısı: 90
Özet
Evrişimli Sinir Ağları (ESA), medikal görüntülerde damar bölütleme gibi görevlerde son yıllarda önemli başarılar elde etmiştir. Ancak, özellikle retina görüntülerinde ince damarların doğru şekilde bölütlenmesi, mevcut yöntemler için halen zorluk oluşturmaktadır. Bu nedenle, daha etkili ve genellenebilir modeller geliştirmek amacıyla yeni yaklaşımlara ihtiyaç duyulmaktadır. Bu çalışmada, Çoklu Öğretmen Tabanlı Bilgi Damıtma (ÇÖBD) adlı yeni bir çerçeve önerilmiştir. Önerilen yöntem, farklı damar türlerinde (ince, kalın ve genel) uzmanlaşmış öğretmen modellerin çıktılarından yararlanarak, bu bilgileri tek bir öğrenci modele aktarmaktadır. Geliştirilen yöntem, DRIVE, CHASEDB1, CHUAC ve DCA1 olmak üzere dört farklı retina veri kümesi üzerinde test edilmiştir. Sonuçlar, önerilen ÇÖBD yaklaşımının klasik U-Net ve gelişmiş yöntemlerle karşılaştırıldığında, özellikle ince damarların bölütlenmesinde belirgin üstünlük sağladığını göstermiştir. Bazı veri kümelerinde, mevcut en iyi yöntemlere kıyasla F1 skoru açısından %2.8'e kadar iyileşme elde edilmiştir. Ayrıca, yöntem yüksek doğruluk ve özgüllük değerleri korurken, genelleme başarısını da sürdürmüştür. Ayrıca, önerilen çerçevenin farklı bileşenlerinin etkisini analiz etmek amacıyla kapsamlı ablasyon çalışmaları yapılmıştır. Bu kapsamda, farklı bilgi damıtma stratejileri, kayıp fonksiyonları, sıcaklık ayarları ve öğretmen katkıları değerlendirilmiş; öğrenci modelin daha etkili öğrenmesi için uygun hiper parametreler belirlenmiştir. Elde edilen bulgular, özellikle ceza tabanlı kayıp fonksiyonunun model başarısını artırmada önemli rol oynadığını göstermiştir. Sonuçlar, ÇÖBD yaklaşımının yüksek performanslı ve tekrar üretilebilir bir çözüm sunduğunu ortaya koyarken, duyarlılık açısından bazı ileri düzey yöntemlerin gerisinde kalınabildiğini göstermektedir. Gelecek çalışmalarda, öğretmenlerin ara katman bilgilerini aktaran özellik tabanlı bilgi damıtma stratejileri ile bölütleme başarısı daha da geliştirilebilir. Ayrıca, veri karmaşıklığına adaptif olarak yanıt veren kayıp fonksiyonları ve mimari optimizasyon teknikleriyle hem doğruluk hem de hesaplama verimliliği artırılabilir.
Özet (Çeviri)
Convolutional neural network (CNN) has achieved significant success in recent years for tasks such as vessel segmentation in medical imaging. However, accurately segmenting thin vessels in retinal images remains a challenge for existing methods. Therefore, new approaches are needed to develop more effective and generalizable models. In this study, a novel framework called Multi-Teacher Based Knowledge Distillation (MTKD) is proposed. The proposed method leverages the outputs of teacher models specialized in different vessel types (thin, thick, and general) and transfers this knowledge to a single student model. The developed method was evaluated on four different retinal datasets: DRIVE, CHASEDB1, CHUAC, and DCA1. Results show that the proposed MTKD approach outperforms classical U-Net and advanced methods, particularly in the segmentation of thin vessels. On some datasets, it achieved up to a 2.8% improvement in F1-score compared to state-of-the-art methods. Moreover, the method maintained high levels of accuracy and specificity while demonstrating strong generalization capability. In addition, comprehensive ablation studies were conducted to analyse the effects of different components of the proposed framework. These studies assessed various knowledge distillation strategies, loss functions, temperature settings, and teacher contributions, and appropriate hyperparameters were determined to enable more effective learning for the student model. The findings revealed that the penalty-based loss function played a significant role in improving model performance. While the MTKD approach offers a high-performing and reproducible solution, it was observed that its sensitivity may occasionally fall behind some advanced methods. Future studies may explore feature-based knowledge distillation strategies that transfer intermediate layer representations from teacher models to further enhance segmentation performance. Furthermore, adaptive loss functions that respond to data complexity and architectural optimization techniques may improve both accuracy and computational efficiency.
Benzer Tezler
- Retınal damar segmentasyonunda görüntü segmentasyon modellerinin değerlendirilmesi
Evaluation of image segmentation models in retinal vessel segmentation
TUĞBA HAKLI
Yüksek Lisans
Türkçe
2024
Göz Hastalıklarıİstanbul ÜniversitesiEnformatik Ana Bilim Dalı
DR. ÖĞR. ÜYESİ İNCİ ZAİM GÖKBAY
- Sığırlarda retina biyometrisi ile görüntü işleme tabanlı kimliklendirme ve tanıma
Image processing-based identification and recognition in cattle using retinal biometrics
MUHAMMED AKYÜZLÜ
Yüksek Lisans
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolTekirdağ Namık Kemal ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. PINAR CİHAN
DOÇ. DR. AHMET SAYGILI
- Data augmentation in retinal fundus images segmentation using deep learning
Derin öğrenme kullanarak retina fundus görüntülerinin segmentasyonu için veri artırma
NAGAT MASUED
Yüksek Lisans
İngilizce
2019
Elektrik ve Elektronik MühendisliğiKaradeniz Teknik ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ MEHMET ÖZTÜRK
- Hücre-damar segmentasyonunda kullanılan derin sinir ağı modellerinin hiper-parametre optimizasyonu
Hyper-parameter optimization of deep neural networks for cell-vessel segmentation
ZEKİ KUŞ
Doktora
Türkçe
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolFatih Sultan Mehmet Vakıf ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ BERNA KİRAZ
- Computer analysis of retinal images for vessel anomaly detection
Retina görüntülerinin damar anomali belirlemek amacıyla bilgisayarda analizi
SHAHAB ASLANI
Yüksek Lisans
İngilizce
2015
Elektrik ve Elektronik MühendisliğiDokuz Eylül ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
YRD. DOÇ. DR. HALDUN SARNEL