Biyomedikal görüntülerin sınıflandırılmasında swish aktivasyon fonksiyonunun performans analizi
Performance analysi̇s of swish function on classification of biomedical images
- Tez No: 942179
- Danışmanlar: DOÇ. DR. NEYİR OZCAN SEMERCİ
- Tez Türü: Yüksek Lisans
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2025
- Dil: Türkçe
- Üniversite: Bursa Uludağ Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Elektronik Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Aktivasyon fonksiyonları, yapay sinir ağları ve derin öğrenme modellerinde nöron karakteristiğini belirleyen temel bileşen olarak önemli bir rol oynamaktadırlar. Derin öğrenme modellerinin performansını artırmak için uygun bir aktivasyon fonksiyonu seçmek kritik bir öneme sahiptir. Bu fonksiyonlar, ağa verilen girdilere karşılık gelen çıktıları belirleyerek modelin öğrenme kapasitesini doğrudan etkilemektedirler. Ağın doğrusal olmayan ilişkileri öğrenebilmesi için modelin de doğrusal olmayan bir özellik göstermesi önemlidir. Böylece ağ karmaşık ve çok boyutlu ilişkileri öğrenebilir. Bu doğrusal olmama durumu, aktivasyon fonksiyonları aracılığıyla modele dahil edilir. Literatürde farklı uygulamalar için kullanılan doğrusal olmayan aktivasyon fonksiyonları mevcuttur: ReLU, Leakly ReLU, Swish, P-Swish, SaRa …vs. Swish aktivasyon fonksiyonu; düzgün (smooth) yapısı, alt sınıra sahip olması ve monoton olmama özelliği sayesinde sinir ağlarının daha karmaşık ilişkileri öğrenmesini kolaylaştırır ve öğrenme sürecinde daha stabil ve esnek bir performans sunmaktadır. ReLU fonksiyonu nöron girişine uygulanan negatif değerler için nöronun inaktif olmasına neden olurken Swish aktivasyon fonksiyonu nöronun çıktı üretebilmesine olanak tanır. Böylece bu değerler için gradyen ölmesi problemin ile daha az karşılaşılır. Bu durum bilgi kaybını azaltır ve modelin daha fazla ayrıntıyı öğrenmesine olanak tanır. Aynı amaçla üretilmiş olan Leakly ReLU fonksiyonu ise monoton bir yapıya sahiptir. Swish fonksiyonunun monoton olmayan yapısı ise modelin karmaşık ilişkileri daha iyi öğrenmesini sağlar. Gerçekleştirilen tez çalışmasında biyomedikal veriler kullanılarak swish fonksiyonunun farklı türleri için farklı derin öğrenme mimarileri kullanılarak fonksiyonun diğer aktivasyon fonksiyonları ile performans kıyaslaması yapılmıştır. Çalışmada kullanılan veri seti 3 farklı tür beyin tümörüne (meningioma, glioma ve pituitary) ait manyetik rezonans (MR) görüntülerini içermektedir. Bu görüntüler farklı derin öğrenme mimarileri ve farklı aktivasyon fonksiyonları kullanılarak sınıflandırılmıştır. Elde edilen sonuçlar yüksek doğruluk ve detayların korunmasını gerektiren bu tip problemlerde swish fonksiyonlarının literatürde kullanılan diğer aktivasyon fonksiyonlarına göre daha yüksek bir sınıflandırma performansına sahip olduğunu açıkça göstermektedir.
Özet (Çeviri)
Activation functions play a crucial role as fundamental components that determine neuron characteristics in artificial neural networks and deep learning models. Selecting an appropriate activation function is critically important for enhancing the performance of deep learning models. These functions directly affect the model's learning capacity by determining the outputs corresponding to the inputs provided to the network. For the network to learn nonlinear relationships, it is essential for the model to exhibit nonlinear characteristics. In this way, the network can learn complex and multidimensional relationships. This nonlinearity is incorporated into the model through activation functions. There are various nonlinear activation functions used in the literature for different applications, such as ReLU, Leaky ReLU, Swish, P-Swish, and SaRa. The Swish activation function, with its smooth structure, boundedness from below, and non-monotonic nature, facilitates neural networks in learning more complex relationships and offers a more stable and flexible performance during the learning process. While the ReLU function causes neurons to become inactive for negative input values, the Swish activation function allows neurons to produce outputs, thus reducing the likelihood of encountering the vanishing gradient problem for these values. This reduces information loss and enables the model to learn more detailed features. Although the Leaky ReLU function, designed for a similar purpose, has a monotonic structure, the non-monotonic nature of the Swish function allows the model to better capture complex relationships. In this thesis study, biomedical data were used to compare the performance of different types of Swish functions with other activation functions across various deep learning architectures. The dataset used in the study consists of magnetic resonance (MR) images of three different types of brain tumors: meningioma, glioma, and pituitary. These images were classified using different deep learning architectures and activation functions. The obtained results clearly demonstrate that Swish functions achieve higher classification performance compared to other activation functions commonly used in the literature, particularly in problems requiring high accuracy and the preservation of fine details.
Benzer Tezler
- An innovative and accurate deep learning based HER2 scoring method HER2-unet
HER2 tümör hücrelerinin segmentasyon için derin öğrenme tabanlı yeni bir yaklaşım
FARIBA DAMBAND KHAMENEH
Yüksek Lisans
İngilizce
2018
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiPROF. DR. MUSTAFA ERSEL KAMAŞAK
- Identification of tea plantation areas using Google cloud based random forest and deep learning
Google bulut servise dayalı rastgele orman ve derin öğrenme ile çay tarım alanlarının belirlenmesi
BERKAY ÖZEN
Yüksek Lisans
İngilizce
2020
Jeodezi ve Fotogrametriİstanbul Teknik ÜniversitesiGeomatik Mühendisliği Ana Bilim Dalı
DOÇ. DR. ESRA ERTEN
- Biyomedikal görüntülerin sınıflandırılması için yeni bir evrişimli sinir ağı mimarisi
A novel convolutional neural network architecture for classification of biomedical images
ÖZNUR ÖZALTIN
Doktora
Türkçe
2023
İstatistikHacettepe Üniversitesiİstatistik Ana Bilim Dalı
PROF. DR. MURTAZA ÖZGÜR YENİAY
DR. ORHAN ÇOŞKUN
- Vision transformer tabanlı modeller kullanılarak gastrointestinal endoskopik görüntülerin çok sınıflı sınıflandırılması
Multi-class classification of gastrointestinal endoscopic images using vision transformer-based models
ALHARETH AHMED HUSSEIN ALI WASEL
Yüksek Lisans
Türkçe
2026
BiyomühendislikAkdeniz ÜniversitesiBiyomedikal Mühendisliği Ana Bilim Dalı
PROF. DR. HÜSEYİN ÖZGÜR KAZANCI
DOÇ. DR. OKAN ORAL
- Farklı derin öğrenme modelleri kullanarak histopatalojik görüntülerden meme tümörlerinin sınıflandırılmasında yeni yaklaşımlar
New approaches in classification of breast tumors from histopathological images using different deep learning models
SEMA NIZAM ABDULGHANI
Doktora
Türkçe
2021
Elektrik ve Elektronik MühendisliğiSelçuk ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. SEYFETTİN SİNAN GÜLTEKİN