Geri Dön

A novel hybrid activation function in deep learning for robust medical image classification

Derin öğrenmede gürbüz tıbbi görüntü sınıflandırması için yeni bir hibrit aktivasyon fonksiyonu

  1. Tez No: 1011764
  2. Yazar: AREEJ AL-MADHOUN
  3. Danışmanlar: Prof. Dr. ASIM EGEMEN YILMAZ
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Derin öğrenme, Evrişimli sinir ağları, Görüntü sınıflandırma, Tıbbi görüntüleme, Yapay sinir ağları, Deep learning, Convolutional neural networks, Image classification, Medical imaging, Artificial neural networks
  7. Yıl: 2026
  8. Dil: İngilizce
  9. Üniversite: Ankara Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Yapay Zeka Teknolojileri Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: Belirtilmemiş.

Özet

Aktivasyon fonksiyonları, doğrusal olmayanlık sağladıkları, gradyan akışını iyileştirdikleri ve özellik gösterimini geliştirdikleri için derin öğrenme modelleri için temeldir. Tıbbi görüntüleme sınıflandırması için evrişimli sinir ağlarının (CNN) kararlılığını ve verimliliğini artırmak amacıyla bu çalışmada yeni bir adaptif aktivasyon fonksiyonu olan FlexiGate tanıtılmıştır. ReLU, Mish ve Swish gibi bilinen diğer aktivasyon fonksiyonlarıyla karşılaştırıldığında, FlexiGate katmanlar arasında doğrusal olmayanlık ve gradyan yayılımı arasında denge kurabilen uyarlanabilir bir geçit mekanizmasına sahiptir. FlexiGate, sığ-orta derinlikte bir CNN eğitmek için MedMNIST v2 veritabanının bir alt kümesi olan PathMNIST veri kümesi kullanılarak bilinen aktivasyonlarla karşılaştırıldı. SharpQuadBoost, Balanced, MostlyQuad ve SmoothTanh gibi farklı FlexiGate varyantları kullanıldı ve değerlendirildi. Özellik gösterimlerinin ve aktivasyon odaklı karar sınırlarının daha iyi anlaşılması için model değerlendirmesinde doğruluk, F1-puanı, ROC-AUC, karışıklık matrisleri ve PCA ve t-SNE kullanılarak özellik alanı görselleştirmesi kullanılmıştır. Sonuçlara göre, düşük performans gösteren FlexiGate varyantları aktivasyon şekline karşı duyarlılık gösterirken, en iyi performans gösteren varyantlar sürekli olarak rekabetçi doğruluk, istikrarlı yakınsama ve gelişmiş temsil gücü (ROC-AUC ~0,87) gösterdi. Bu, CNN'lerin FlexiGate gibi adaptif hibrit aktivasyon ile daha iyi performans elde edebileceğini, kaybolan gradyanları azaltabileceğini ve daha güvenilir ve kararlı öğrenmeye yol açabileceğini doğrulamaktadır. Bu çalışma, tıbbi görüntülemede aktivasyon fonksiyonlarının sistematik bir karşılaştırmasına katkıda bulunmakta ve tıbbi uygulamalarda aktivasyona duyarlı derin öğrenme modelleri için adaptif hibrit FlexiGate'i önermektedir.

Özet (Çeviri)

Activation functions are fundamental to deep learning models, as they provide non-linearity, improve gradient flow, and enhance feature representation. To improve the stability and efficiency of convolutional neural networks (CNN) for medical imaging classification, this study introduces FlexiGate, a new adaptive activation function. Compared to the other known activation functions like ReLU, Mish, and Swish, FlexiGate has an adaptive gating mechanism that can balance between non-linearity and gradient propagation across layers. FlexiGate was compared with known activations using PathMNIST dataset, a subset of the MedMNIST v2 database, to train a shallow-to-medium depth CNN. Different FlexiGate variants such as SharpQuadBoost, Balanced, MostlyQuad, and SmoothTanh were utilized and evaluated. The accuracy, F1-score, ROC-AUC, confusion matrices, and feature space visualization using PCA and t-SNE were used for the model evaluation to better understand feature representations and activation-driven decision boundaries. According to results, underperforming FlexiGate variants showed sensitivity to activation shape, whereas top-performing variants consistently demonstrated competitive accuracy, stable convergence, and enhanced representational power (ROC-AUC ~0.87). This verifies that CNNs can achieve better performance, reduce vanishing gradients and lead to more reliable stable learning with adaptive hybrid activation such as FlexiGate. This study contributes a systematic comparison of activation functions in medical imaging and proposes the adaptive hybrid FlexiGate for activation-aware deep learning models in medical applications.

Benzer Tezler

  1. Design and deployment of deep learning based fuzzy logicsystems

    Derin öğrenme tabanlı bulanık sistemlerin geliştirilmesi ve uygulanması

    AYKUT BEKE

    Doktora

    İngilizce

    İngilizce

    2023

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Kontrol ve Otomasyon Mühendisliği Ana Bilim Dalı

    DOÇ. DR. TUFAN KUMBASAR

  2. Evrişimli sinir ağları için hibrit bir iyileştirici geliştirilmesi

    Development of a hybrid optimizer for convolutional neural networks

    İBRAHİM ÇAĞRI AKSEKİLİ

    Yüksek Lisans

    Türkçe

    Türkçe

    2026

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKonya Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ VAHİT TONGUR

  3. Identification and adaptive control of bipedal robot motion with artificial neural networks

    İki ayaklı robot hareketinin yapay sinir ağları ile tanılanması ve uyarlanabilir kontrolü

    BURAK ÇATALBAŞ

    Doktora

    İngilizce

    İngilizce

    2024

    Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent Üniversitesi

    Elektrik ve Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. ÖMER MORGÜL

  4. Derin öğrenme algoritmaları ile personel geri bildirimlerinin sınıflandırılması ve analizi

    Classification and analysis of employee feedback with deep learning algorithms

    GÖKHAN YİĞİDEFE

    Yüksek Lisans

    Türkçe

    Türkçe

    2025

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ SERAP ÇAKAR KAMAN

  5. Design, development, and control of an active transfemoral prosthesis

    Aktif transfemoral protezin tasarımı, geliştirilmesi ve kontrolü

    OMID ARFAIE KHOSROWSHAHI

    Doktora

    İngilizce

    İngilizce

    2026

    BiyomühendislikÖzyeğin Üniversitesi

    Makine Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ RAMAZAN UNAL