Improved bone marrow cell classification using enhanced capsnet and enhanced U-net: Addressing data imbalance and large-scale data
Geliştirilmiş kapsül ağı ve U-net kullanarak kemik iliği hücrelerinin iyileştirilmiş sınıflandırılması: Veri dengesizliği ve büyük ölçekli veri sorunlarına çözüm
- Tez No: 920831
- Danışmanlar: DR. ÖĞR. ÜYESİ NESRİN AYDIN ATASOY
- Tez Türü: Doktora
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2024
- Dil: İngilizce
- Üniversite: Karabük Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu çalışma, geliştirilmiş derin öğrenme modelleri kullanarak kemik iliği hücrelerinin sınıflandırılması için kapsamlı bir yaklaşım sunmaktadır. Ayrıca bu çalışma, kemik iliği hücrelerinin hassas ve verimli analizi için Kapsül Ağlar (CapsNet) ve U-Net teknikleri dahil olmak üzere derin öğrenme tekniklerinin potansiyelini araştırmaktadır. Bu tez, iki deneyin uygulanması yoluyla gerçekleştirilmiştir. İlk deney, CapsNet mimarisinin geliştirilmesi ve iyileştirilmesini içermektedir. CapsNet'in sınıflandırma görevlerindeki başarısına rağmen, Evrişimsel Sinir Ağları'nın kullanımına bağlı bazı sınırlamalar ve zorluklar bulunmaktadır. Bu zorluklar arasında, havuzlama ve bilgi eleme süreci sırasında ayrıntılı mekansal bilginin kaybı ve ince ayrıntılı özelliklerin yitirilmesi yer almaktadır. Ek olarak, standart sıkıştırma işlevine ve ağ içindeki yetersiz yönlendirme işlemine bağlı dezavantajlar da bulunmaktadır. Bu zorluklar arasında, havuzlama ve bilgi eleme süreci sırasında ayrıntılı mekansal bilginin kaybı ve ince ayrıntılı özelliklerin yitirilmesi yer almaktadır. Ek olarak, standart sıkıştırma işlevine ve ağ içindeki yetersiz yönlendirme işlemine bağlı dezavantajlar da bulunmaktadır. Ayrıca, yüksek boyutlu verilerle başa çıkma konusunda zorluklar yaratmıştır. Bu bilgilerden yararlanılarak CapsNet, düşük ve yüksek seviyeli özellik transferlerinden öğrenebilir ve kemik iliği hücre görüntülerindeki karmaşık desenleri tanıma yeteneğini geliştirme potansiyeline sahiptir. Temel CapsNet performansındaki sınırlamaları aşmak için üç yeni yaklaşım önerilmiştir. Birinci yaklaşım, kaybolan/patlayan gradyan problemlerini ve başlatmaya duyarlılığı çözüp sıkıştırma kapasitesini artırmaktadır. İkinci teknik, evrişim katmanlarını değiştirerek bilgi kaybını azaltır ve CapsNet'teki özellik çıkarımı işlemini iyileştirir. Önceden eğitilmiş mimariler (InceptionV3 - Google Ağı [GN-CapsNet], Görsel Geometri Grubu Kapsül Ağı [VGG-CapsNet], ve Artık Kapsül Ağı [RES-CapsNet]) uygulanmıştır. Ayrıca, bilgi akışı verimliliğini artırmak için değiştirilmiş bir dinamik yönlendirme sistemi tasarlanmıştır. Üçüncü yöntem ise etkili özellik çıkarımı, azaltılmış işlem süresi ve geliştirilmiş performans için yeni Fire modülleri sunar (Fire-CapsNet). Bu yöntemde standart fire modülü değiştirilmiş ve özel swish aktivasyon fonksiyonu kullanılarak temel CapsNet mimarisindeki diğer sınırlamalar aşılmıştır. Kemik İliği, MNIST, Fashion MNIST ve CIFAR-10 olmak üzere dört farklı veri kümesi kullanılmış, önerilen yöntemler geniş bir uygulama yelpazesinde test edilmiştir. Deneysel bulgular, her modelin sınıflandırma performansında önemli iyileştirmeler göstermiştir. Ayrıca, önerilen modeller yalnızca kemik iliği hücrelerini değil, çeşitli uygulamaları sınıflandırmada da etkili olduklarını kanıtlamıştır. Performans metrikleri, temel CapsNet'in BM veri kümesinde %96.99' dur, Geliştirilmiş Sıkıştırma CapsNet'in %98.52, VGG-CapsNet'in %99.31, RES-CapsNet'in %99.38, GN-CapsNet'in %99.89 ve Fire-CapsNet'in %99.92 doğruluğa ulaştığını ortaya koymuştur. Fire-CapsNet modeli, en kısa hesaplama süresiyle diğer önerilen tüm modelleri geride bırakarak çeşitli görüntü sınıflandırma problemleri için daha güvenilir ve etkili bir model olmuştur. İkinci deney, standart U-Net'i, kodlayıcı ile kod çözücü arasında ek bağlantılar entegre ederek geliştirmiş ve Derin Özellikler Füzyonlu U-Net'i (DFF-U-Net) oluşturmuştur. Bu geliştirme, bilgi kaybını azaltmayı ve karmaşık özelliklerin yakalanmasını iyileştirmeyi hedeflemiştir. Dropout düzenlemesi, hiperparametre optimizasyonu ve Leaky-ReLU (alfa 0.1) içeren bir sınıflandırma başlığı entegrasyonu, doğruluğu artırmış ve ölü nöronları önlemiştir. Ayrıca, bellek kullanımını azaltmak, hesaplamayı hızlandırmak ve eğitimi geliştirmek amacıyla Modelden Seç (SFM), Çapraz Doğrulama ile Yinelemeli Özellik Eleme (RFECV) ve Tek Değişkenli Özellik Seçimi (UFS) gibi üç özellik seçme tekniği uygulanmıştır. Değerlendirme süreci, Standart U-Net, DFF-U-Net ve EfficientNetV2S gibi ek sağlam sınıflandırıcıların karşılaştırılmasını içermiştir. Kemik iliği hücrelerinde Standart U-Net ve EfficientNetV2S sırasıyla %96.70 ve %94.25 doğruluğa ulaşırken, önerilen DFF-U-Net modeli %98.93 doğruluk oranıyla daha yüksek bir performans sergilemiştir. DFF-U-Net, sınırlı kaynaklar, zaman kısıtlamaları ve sınıf dengesizliği gibi zorluklara çözüm olarak yeniden örnekleme tekniklerini kullanarak etkili bir çözüm sunmaktadır. Sağlık hizmetlerinin sınırlı olduğu ortamlarda hızlı ve doğru tanı konulmasını mümkün kılarak tıbbi görüntü analizinde önemli bir ilerleme sağlamıştır.
Özet (Çeviri)
This work introduces a comprehensive approach to the classification of bone marrow (BM) cells using enhanced deep learning models. Furthermore, this thesis explores the potential of deep learning techniques, including Capsule Neural Networks (CapsNet) and U-Net techniques, for precise and efficient analysis of BM cells. This thesis is conducted through the implementation of two experiments. The first experiment involved the development and enhancement of CapsNet architecture. Despite the success of CapsNet in the classification tasks, limitations and challenges associated with the utilization of Convolutional Neural Networks (CNNs). These challenges include the loss of detailed spatial information during the process of pooling and discarding, leading to the loss of fine-grained features. Additional limitations include drawbacks inherent to standard squash and an inefficient routing process within the network. Furthermore, it has posed challenges in the context of dealing with high-dimensional data. Utilizing this information, CapsNet can learn from low- and high-level feature transfers, which has the potential to improve its ability to recognize complex patterns in BM cell images. Three new approaches have been proposed to overcome limitations of baseline CapsNet performance. The first approach solves vanishing/exploding problems and sensitivity to initialization, therefore enhancing the squash capability. The second technique replaces the convolution layers, thus reducing information loss and improving feature extraction in CapsNet. We apply pre-trained architectures including InceptionV3 (Google Network) (GN-CapsNet), Visual Geometry Group Capsule Network (VGG-CapsNet), and Residual Capsule Network (RES-CapsNet). Moreover, a modified dynamic routing system has been built to increase the information flow efficiency. The third method presents new Fire modules for effective feature extraction, reduced efficiency time, and enhanced performance (Fire-CapsNet), with a modified standard fire module and custom swish activation function used to overcome other limitations in baseline CapsNet architecture. Four different datasets, BM, MNIST, Fashion MNIST, and CIFAR-10, are used, and the proposed methods were tested and evaluated, covering a wide range of application domains. The experimental findings demonstrated substantial enhancements in classification performance for each model evaluated. Furthermore, the proposed models demonstrated their effectiveness in classifying various applications, not only BM cells. The performance metrics revealed that the accuracy of each baseline CapsNet achieved 96.99% on the BM dataset, Enhanced Squash CapsNet 98.52%, VGG-CapsNet 99.31%, RES-CapsNet 99.38%, GN-CapsNet 99.89%, and Fire-CapsNet 99.92%. The Fire-CapsNet model outperformed all other proposed models with the shortest computation time, resulting in a more reliable and effective model for various image classification problems. The second experiment enhanced the standard U-Net by integrating additional connections between the encoder and the decoder, thus establishing the Deep Features Fusion U-Net (DFF-U-Net). This development was aimed at reducing information loss and enhancing the capture of complex features. The incorporation of dropout regularization, hyperparameter tuning, and a classification head with Leaky-ReLU (alpha 0.1) led to improvements in accuracy and prevented dead neurons. Furthermore, three feature selection techniques were employed: Select from Model (SFM), Recursive Feature Elimination with Cross-Validation (RFECV), and Univariate Feature Selection (UFS). These techniques were implemented to reduce memory usage, accelerate computation, and enhance training. The evaluation process involved the comparison of Standard U-Net, DFF-U-Net, and additional robust classifiers, including EfficientNetV2S. When evaluated against the standard U-Net and EfficientNetV2S, which achieved 96.70% and 94.25%, respectively, on bone marrow (BM) cells, the proposed DFF-U-Net model demonstrated a higher level of accuracy, at 98.93%. The DFF-U-Net is an effective solution to the challenges posed by limited resources, time constraints and class imbalance through the implementation of resampling techniques. It has been demonstrated to advance medical image analysis by enabling fast and accurate diagnosis, especially in healthcare settings with limited resources.
Benzer Tezler
- Hızlı katılaşma ile yüksek mukavemetli malzemelerin üretilmesi ve kurşun-asit akümalatörlerine uygulanması
Başlık çevirisi yok
ÜMİT AKÇAL
Yüksek Lisans
Türkçe
1986
Makine MühendisliğiUludağ ÜniversitesiMakine Mühendisliği Ana Bilim Dalı
DOÇ. DR. HALİM DEMİRCİ
- Çukurova bölgesinde biyoklimatik veriler kullanılarak açık ve yeşil alan sistemlerinin belirlenmesi ilkeleri üzerinde bir araştırma
A research on the determination of the principles in open and green spaces systems by using the bioclimatic data in Çukurova region
MEHMET FARUK ALTUNKASA
Doktora
Türkçe
1987
Çevre MühendisliğiÇukurova ÜniversitesiPeyzaj Mimarlığı Ana Bilim Dalı
DOÇ. DR. ERDOĞAN GÜLTEKİN
- Bira ve alkol üretiminde kullanılan bazı enzimlerin mikrobiyal yolla eldesi
Başlık çevirisi yok
HÜSEYİN ÜSTÜNES
Yüksek Lisans
Türkçe
1985
Gıda MühendisliğiEge ÜniversitesiGıda Mühendisliği Ana Bilim Dalı
DOÇ. DR. ULGAR GÜVENÇ
- Lohusalıkta anneye verilen sağlık eğitiminin annenin doğum sonrası döneme ilişkin bilgi düzeyine etkisinin incelenmesi
Başlık çevirisi yok
HANDAN GÜLER
Yüksek Lisans
Türkçe
1987
HemşirelikCumhuriyet ÜniversitesiHemşirelik Ana Bilim Dalı
Y.DOÇ.DR. MELİHA ATALAY
- Krem tip eritme peynir imalat teknolojisi
Başlık çevirisi yok
GÜL FİGEN AR
Yüksek Lisans
Türkçe
1986
Gıda MühendisliğiEge ÜniversitesiGıda Mühendisliği Ana Bilim Dalı
DOÇ. DR. MUSTAFA ÜÇÜNCÜ