Improved bone marrow cell classification using enhanced capsnet and enhanced U-net: Addressing data imbalance and large-scale data
Geliştirilmiş kapsül ağı ve U-net kullanarak kemik iliği hücrelerinin iyileştirilmiş sınıflandırılması: Veri dengesizliği ve büyük ölçekli veri sorunlarına çözüm
- Tez No: 920831
- Danışmanlar: DR. ÖĞR. ÜYESİ NESRİN AYDIN ATASOY
- Tez Türü: Doktora
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2024
- Dil: İngilizce
- Üniversite: Karabük Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 134
Özet
Bu çalışma, geliştirilmiş derin öğrenme modelleri kullanarak kemik iliği hücrelerinin sınıflandırılması için kapsamlı bir yaklaşım sunmaktadır. Ayrıca bu çalışma, kemik iliği hücrelerinin hassas ve verimli analizi için Kapsül Ağlar (CapsNet) ve U-Net teknikleri dahil olmak üzere derin öğrenme tekniklerinin potansiyelini araştırmaktadır. Bu tez, iki deneyin uygulanması yoluyla gerçekleştirilmiştir. İlk deney, CapsNet mimarisinin geliştirilmesi ve iyileştirilmesini içermektedir. CapsNet'in sınıflandırma görevlerindeki başarısına rağmen, Evrişimsel Sinir Ağları'nın kullanımına bağlı bazı sınırlamalar ve zorluklar bulunmaktadır. Bu zorluklar arasında, havuzlama ve bilgi eleme süreci sırasında ayrıntılı mekansal bilginin kaybı ve ince ayrıntılı özelliklerin yitirilmesi yer almaktadır. Ek olarak, standart sıkıştırma işlevine ve ağ içindeki yetersiz yönlendirme işlemine bağlı dezavantajlar da bulunmaktadır. Bu zorluklar arasında, havuzlama ve bilgi eleme süreci sırasında ayrıntılı mekansal bilginin kaybı ve ince ayrıntılı özelliklerin yitirilmesi yer almaktadır. Ek olarak, standart sıkıştırma işlevine ve ağ içindeki yetersiz yönlendirme işlemine bağlı dezavantajlar da bulunmaktadır. Ayrıca, yüksek boyutlu verilerle başa çıkma konusunda zorluklar yaratmıştır. Bu bilgilerden yararlanılarak CapsNet, düşük ve yüksek seviyeli özellik transferlerinden öğrenebilir ve kemik iliği hücre görüntülerindeki karmaşık desenleri tanıma yeteneğini geliştirme potansiyeline sahiptir. Temel CapsNet performansındaki sınırlamaları aşmak için üç yeni yaklaşım önerilmiştir. Birinci yaklaşım, kaybolan/patlayan gradyan problemlerini ve başlatmaya duyarlılığı çözüp sıkıştırma kapasitesini artırmaktadır. İkinci teknik, evrişim katmanlarını değiştirerek bilgi kaybını azaltır ve CapsNet'teki özellik çıkarımı işlemini iyileştirir. Önceden eğitilmiş mimariler (InceptionV3 - Google Ağı [GN-CapsNet], Görsel Geometri Grubu Kapsül Ağı [VGG-CapsNet], ve Artık Kapsül Ağı [RES-CapsNet]) uygulanmıştır. Ayrıca, bilgi akışı verimliliğini artırmak için değiştirilmiş bir dinamik yönlendirme sistemi tasarlanmıştır. Üçüncü yöntem ise etkili özellik çıkarımı, azaltılmış işlem süresi ve geliştirilmiş performans için yeni Fire modülleri sunar (Fire-CapsNet). Bu yöntemde standart fire modülü değiştirilmiş ve özel swish aktivasyon fonksiyonu kullanılarak temel CapsNet mimarisindeki diğer sınırlamalar aşılmıştır. Kemik İliği, MNIST, Fashion MNIST ve CIFAR-10 olmak üzere dört farklı veri kümesi kullanılmış, önerilen yöntemler geniş bir uygulama yelpazesinde test edilmiştir. Deneysel bulgular, her modelin sınıflandırma performansında önemli iyileştirmeler göstermiştir. Ayrıca, önerilen modeller yalnızca kemik iliği hücrelerini değil, çeşitli uygulamaları sınıflandırmada da etkili olduklarını kanıtlamıştır. Performans metrikleri, temel CapsNet'in BM veri kümesinde %96.99' dur, Geliştirilmiş Sıkıştırma CapsNet'in %98.52, VGG-CapsNet'in %99.31, RES-CapsNet'in %99.38, GN-CapsNet'in %99.89 ve Fire-CapsNet'in %99.92 doğruluğa ulaştığını ortaya koymuştur. Fire-CapsNet modeli, en kısa hesaplama süresiyle diğer önerilen tüm modelleri geride bırakarak çeşitli görüntü sınıflandırma problemleri için daha güvenilir ve etkili bir model olmuştur. İkinci deney, standart U-Net'i, kodlayıcı ile kod çözücü arasında ek bağlantılar entegre ederek geliştirmiş ve Derin Özellikler Füzyonlu U-Net'i (DFF-U-Net) oluşturmuştur. Bu geliştirme, bilgi kaybını azaltmayı ve karmaşık özelliklerin yakalanmasını iyileştirmeyi hedeflemiştir. Dropout düzenlemesi, hiperparametre optimizasyonu ve Leaky-ReLU (alfa 0.1) içeren bir sınıflandırma başlığı entegrasyonu, doğruluğu artırmış ve ölü nöronları önlemiştir. Ayrıca, bellek kullanımını azaltmak, hesaplamayı hızlandırmak ve eğitimi geliştirmek amacıyla Modelden Seç (SFM), Çapraz Doğrulama ile Yinelemeli Özellik Eleme (RFECV) ve Tek Değişkenli Özellik Seçimi (UFS) gibi üç özellik seçme tekniği uygulanmıştır. Değerlendirme süreci, Standart U-Net, DFF-U-Net ve EfficientNetV2S gibi ek sağlam sınıflandırıcıların karşılaştırılmasını içermiştir. Kemik iliği hücrelerinde Standart U-Net ve EfficientNetV2S sırasıyla %96.70 ve %94.25 doğruluğa ulaşırken, önerilen DFF-U-Net modeli %98.93 doğruluk oranıyla daha yüksek bir performans sergilemiştir. DFF-U-Net, sınırlı kaynaklar, zaman kısıtlamaları ve sınıf dengesizliği gibi zorluklara çözüm olarak yeniden örnekleme tekniklerini kullanarak etkili bir çözüm sunmaktadır. Sağlık hizmetlerinin sınırlı olduğu ortamlarda hızlı ve doğru tanı konulmasını mümkün kılarak tıbbi görüntü analizinde önemli bir ilerleme sağlamıştır.
Özet (Çeviri)
This work introduces a comprehensive approach to the classification of bone marrow (BM) cells using enhanced deep learning models. Furthermore, this thesis explores the potential of deep learning techniques, including Capsule Neural Networks (CapsNet) and U-Net techniques, for precise and efficient analysis of BM cells. This thesis is conducted through the implementation of two experiments. The first experiment involved the development and enhancement of CapsNet architecture. Despite the success of CapsNet in the classification tasks, limitations and challenges associated with the utilization of Convolutional Neural Networks (CNNs). These challenges include the loss of detailed spatial information during the process of pooling and discarding, leading to the loss of fine-grained features. Additional limitations include drawbacks inherent to standard squash and an inefficient routing process within the network. Furthermore, it has posed challenges in the context of dealing with high-dimensional data. Utilizing this information, CapsNet can learn from low- and high-level feature transfers, which has the potential to improve its ability to recognize complex patterns in BM cell images. Three new approaches have been proposed to overcome limitations of baseline CapsNet performance. The first approach solves vanishing/exploding problems and sensitivity to initialization, therefore enhancing the squash capability. The second technique replaces the convolution layers, thus reducing information loss and improving feature extraction in CapsNet. We apply pre-trained architectures including InceptionV3 (Google Network) (GN-CapsNet), Visual Geometry Group Capsule Network (VGG-CapsNet), and Residual Capsule Network (RES-CapsNet). Moreover, a modified dynamic routing system has been built to increase the information flow efficiency. The third method presents new Fire modules for effective feature extraction, reduced efficiency time, and enhanced performance (Fire-CapsNet), with a modified standard fire module and custom swish activation function used to overcome other limitations in baseline CapsNet architecture. Four different datasets, BM, MNIST, Fashion MNIST, and CIFAR-10, are used, and the proposed methods were tested and evaluated, covering a wide range of application domains. The experimental findings demonstrated substantial enhancements in classification performance for each model evaluated. Furthermore, the proposed models demonstrated their effectiveness in classifying various applications, not only BM cells. The performance metrics revealed that the accuracy of each baseline CapsNet achieved 96.99% on the BM dataset, Enhanced Squash CapsNet 98.52%, VGG-CapsNet 99.31%, RES-CapsNet 99.38%, GN-CapsNet 99.89%, and Fire-CapsNet 99.92%. The Fire-CapsNet model outperformed all other proposed models with the shortest computation time, resulting in a more reliable and effective model for various image classification problems. The second experiment enhanced the standard U-Net by integrating additional connections between the encoder and the decoder, thus establishing the Deep Features Fusion U-Net (DFF-U-Net). This development was aimed at reducing information loss and enhancing the capture of complex features. The incorporation of dropout regularization, hyperparameter tuning, and a classification head with Leaky-ReLU (alpha 0.1) led to improvements in accuracy and prevented dead neurons. Furthermore, three feature selection techniques were employed: Select from Model (SFM), Recursive Feature Elimination with Cross-Validation (RFECV), and Univariate Feature Selection (UFS). These techniques were implemented to reduce memory usage, accelerate computation, and enhance training. The evaluation process involved the comparison of Standard U-Net, DFF-U-Net, and additional robust classifiers, including EfficientNetV2S. When evaluated against the standard U-Net and EfficientNetV2S, which achieved 96.70% and 94.25%, respectively, on bone marrow (BM) cells, the proposed DFF-U-Net model demonstrated a higher level of accuracy, at 98.93%. The DFF-U-Net is an effective solution to the challenges posed by limited resources, time constraints and class imbalance through the implementation of resampling techniques. It has been demonstrated to advance medical image analysis by enabling fast and accurate diagnosis, especially in healthcare settings with limited resources.
Benzer Tezler
- Kemik iliği biyopsilerinde megakaryositlerin yapay zeka ile segmentasyonu
Artificial intelligence-based segmentation of megakaryocytes in bone marrow biopsies
NERMİN ARAS
Tıpta Uzmanlık
Türkçe
2024
PatolojiAnkara ÜniversitesiTıbbi Patoloji Ana Bilim Dalı
PROF. DR. GÜLŞAH KAYGUSUZ
- Sayısal haritalama teknikleri kullanılarak DNA dizilimleri üzerinden lösemi hastalığının temel türlerinin yapay zeka tabanlı algoritmalar ile sınıflandırılması
Classification of main types of leukemia disease with artificial intelligence-based algorithms on the DNA sequences using digital mapping techniques
FATMA AKALIN
Doktora
Türkçe
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. NEJAT YUMUŞAK
- Kocaeli Üniversitesi Araştırma ve Uygulama Hastanesi'nde 2001-2014 yılları arasında akut lenfoblastik lösemi tanısı almış çocuk hastalarda tedavi sonuçlarının değerlendirilmesi
Başlık çevirisi yok
DUYGU KÖSE
Tıpta Uzmanlık
Türkçe
2019
HematolojiKocaeli ÜniversitesiÇocuk Sağlığı ve Hastalıkları Ana Bilim Dalı
PROF. DR. NAZAN SARPER
- Lösemi tespiti için kan hücrelerinin derin öğrenme tabanlı sınıflandırılması
Deep learning-based classification of blood cells for detection of leukemia
ALI AHMED OMAR ALBELAZI
Yüksek Lisans
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolÇankırı Karatekin ÜniversitesiElektronik ve Bilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. MUSTAFA KARHAN
DR. ÖĞR. ÜYESİ FEVZİ DAŞ
- 65 yaş üstü akut miyeloid lösemi hastalarında uygulanan tedavi algoritmalarının prognoz ve sağ kalım üzerine etkisi
Başlık çevirisi yok
DİLA ELİFSU YÜKSEKLİ
Tıpta Uzmanlık
Türkçe
2024
İç HastalıklarıMarmara Üniversitesiİç Hastalıkları Ana Bilim Dalı
DOÇ. DR. ASU FERGÜN YILMAZ