Geri Dön

Feature enhancement with deep generative models in deep Bayesian active learning

Bayes derin aktif öğrenmede derin üretici modeller ile öznitelik iyileştirme

  1. Tez No: 763977
  2. Yazar: PINAR EZGİ DUYMUŞ
  3. Danışmanlar: DOÇ. DR. ŞEYDA ERTEKİN BOLELLİ
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2022
  8. Dil: İngilizce
  9. Üniversite: Orta Doğu Teknik Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 84

Özet

Derin Öğrenme alanında yeni gelişmeler gerçekleştikçe, veriye yoğun olarak ihtiyaç duyan modeller ortaya çıkmaktadır. Bununla birlikte, birçok veri noktasına sahip işaretlenmiş veri kümelerine ulaşmak sürekli olarak yaygın değildir. Bu durum, sınıflandırıcı modelin doğruluğundan ödün vermeyerek mümkün olan en az miktarda veri noktası seçmek için Aktif Öğrenmenin gerekliliğini vurgulamaktadır. Derin Ağ modeline, model değişkenlerindeki belirsizliğin dahil edilmesi anlamına gelen Derin Bayes Aktif Öğrenme alanında yeni gelişmeler ortaya çıkmaktadır. Bu çalışmada, resim sınıflandırma problemi özelinde, Derin Bayes Aktif Öğrenme modelinin doğruluğunu artıran bir algoritma sunulmuştur. Derin Üretken Modellerin öznitelik çıkarma yeteneklerini kullanarak onların temsil gücünden yararlanılmaktadır. Üretken bir model eğitilerek, saklı vektör olarak adlandırılan girdi veri noktalarının gelişmiş öznitelik uzayı temsili elde edilmektedir. Aktif öğrenme ortamında, tüm görüntü uzayını kullanmak yerine, gizli alan kullanmanın aktif öğrenme problemi için daha iyi veri noktası seçimine imkan sağladığı görülmektedir; dolayısıyla daha yüksek doğruluk elde edilmiş olur. Ayrıca, bu çalışma, daha iyi öznitelik temsilini yakalama yeteneği açısından farklı üretken modelleri karşılaştırır. Veri noktalarının bilgilendiriciliği, aktif bir öğrenme algoritmasının ne kadar iyi olduğunu belirlemektedir. Bu sebeple, bir veri noktasının gizli uzay temsilini, mümkün olan en yüksek bilgi değerini çıkararak yakalayabilmek önemli bir katkıdır. Sıradan Değişimsel Özkodlayıcılar, Maksimum Ortalama Çelişkili Değişimsel Özkodlayıcılar ve İkiyönlü Çekişmeli Üretici Ağlar gibi farklı Üretken Modeller üzerinde karşılaştırmalar ve deneyler sunulmuştur. Ek olarak, Bayes Aktif Öğrenme, Mod-Çökmesi sorunundan etkilenmektedir. Bu problemi azaltmak amacıyla, veri noktalarının çeşitliliğini ve algoritmanın doğruluğunu artırmak için çeşitlilik bazlı bir sorgu algoritması önerilmiştir.

Özet (Çeviri)

Data-intensive models emerge as new advances in Deep Learning take place. However, access to annotated datasets with many data points is not constantly prevalent. This situation emphasizes the need for Active Learning to select the least possible amount of data without compromising the accuracy of the classifier models. Recent advancements occur in Deep Bayesian Active Learning (DBAL), which means incorporating uncertainty of model parameters into a Deep Network. In this work, we present an algorithm that improves the accuracy of a DBAL model in an image classification task. We utilize the representation power of Deep Generative Models by employing their feature extraction capabilities. We obtain improved feature space representation of input data referred to as a latent vector by training a generative model. Instead of using the entire image space in the active learning setting, we demonstrate that utilizing latent space provides better data point selection for the active learning problem, hence obtaining higher accuracy. Furthermore, this study compares different generative models in terms of the ability to capture better feature representation. The informativeness of the data points defines how well an active learning algorithm performs. Therefore, capturing the latent space representation of a data point by extracting the highest information value possible is a significant contribution. We provide comparisons and experiments on different kinds of Generative Models, namely Vanilla Variational Autoencoders (VAEs), Maximum Mean Discrepancy Variational Autoencoders (MMDVAE) and Bidirectional Generative Adversarial Networks (BiGANs). Additionally, Bayesian Active Learning suffers from the Mode-Collapse problem. In order to ease that, we propose a diversity-based query algorithm to enhance the diversity of active points and improve the accuracy of the algorithm.

Benzer Tezler

  1. On real-world face super-resolution and face image synthesis evaluation

    Gerçek dünya yüz süper çözünürlüğü ve yüz görüntüsü sentezi değerlendirmesi üzerine

    ERDİ SARITAŞ

    Yüksek Lisans

    İngilizce

    İngilizce

    2024

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. HAZIM KEMAL EKENEL

  2. Denetimsiz derin öğrenme kullanılarak dijital meme tomosentezi görüntülerinde bulanıklığın giderilmesi

    Unsupervised deblurring of digital breast tomosynthesis images using deep learning

    MÜBERRA AYDIN

    Yüksek Lisans

    Türkçe

    Türkçe

    2023

    Mühendislik Bilimleriİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    DOÇ. DR. İSA YILDIRIM

  3. Development of a voice filter and enhancement method based on deep learning

    Başlık çevirisi yok

    ADNAN ABDULLAH ATIYAH

    Yüksek Lisans

    İngilizce

    İngilizce

    2020

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolAltınbaş Üniversitesi

    Bilişim Teknolojileri Ana Bilim Dalı

    PROF. DR. OSMAN NURİ UÇAN

  4. Derin öğrenme tabanlı yöntemlerle düşük ışıklı görüntü iyileştirme

    Low light image enhancement with deep learning based methods

    EMİN CİHANGİR US

    Yüksek Lisans

    Türkçe

    Türkçe

    2024

    Elektrik ve Elektronik Mühendisliğiİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    PROF. DR. ENDER METE EKŞİOĞLU

  5. Derin öğrenme teknikleriyle yazılım kod kalitesi analiz ve iyileştirme öneri sistemi geliştirilmesi

    Development of software code quality analysis and improvement suggestion system with deep learning techniques

    OĞUZHAN OKTAY BÜYÜK

    Yüksek Lisans

    Türkçe

    Türkçe

    2021

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolFatih Sultan Mehmet Vakıf Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ ALİ NİZAM