Feature enhancement with deep generative models in deep Bayesian active learning
Bayes derin aktif öğrenmede derin üretici modeller ile öznitelik iyileştirme
- Tez No: 763977
- Danışmanlar: DOÇ. DR. ŞEYDA ERTEKİN BOLELLİ
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2022
- Dil: İngilizce
- Üniversite: Orta Doğu Teknik Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 84
Özet
Derin Öğrenme alanında yeni gelişmeler gerçekleştikçe, veriye yoğun olarak ihtiyaç duyan modeller ortaya çıkmaktadır. Bununla birlikte, birçok veri noktasına sahip işaretlenmiş veri kümelerine ulaşmak sürekli olarak yaygın değildir. Bu durum, sınıflandırıcı modelin doğruluğundan ödün vermeyerek mümkün olan en az miktarda veri noktası seçmek için Aktif Öğrenmenin gerekliliğini vurgulamaktadır. Derin Ağ modeline, model değişkenlerindeki belirsizliğin dahil edilmesi anlamına gelen Derin Bayes Aktif Öğrenme alanında yeni gelişmeler ortaya çıkmaktadır. Bu çalışmada, resim sınıflandırma problemi özelinde, Derin Bayes Aktif Öğrenme modelinin doğruluğunu artıran bir algoritma sunulmuştur. Derin Üretken Modellerin öznitelik çıkarma yeteneklerini kullanarak onların temsil gücünden yararlanılmaktadır. Üretken bir model eğitilerek, saklı vektör olarak adlandırılan girdi veri noktalarının gelişmiş öznitelik uzayı temsili elde edilmektedir. Aktif öğrenme ortamında, tüm görüntü uzayını kullanmak yerine, gizli alan kullanmanın aktif öğrenme problemi için daha iyi veri noktası seçimine imkan sağladığı görülmektedir; dolayısıyla daha yüksek doğruluk elde edilmiş olur. Ayrıca, bu çalışma, daha iyi öznitelik temsilini yakalama yeteneği açısından farklı üretken modelleri karşılaştırır. Veri noktalarının bilgilendiriciliği, aktif bir öğrenme algoritmasının ne kadar iyi olduğunu belirlemektedir. Bu sebeple, bir veri noktasının gizli uzay temsilini, mümkün olan en yüksek bilgi değerini çıkararak yakalayabilmek önemli bir katkıdır. Sıradan Değişimsel Özkodlayıcılar, Maksimum Ortalama Çelişkili Değişimsel Özkodlayıcılar ve İkiyönlü Çekişmeli Üretici Ağlar gibi farklı Üretken Modeller üzerinde karşılaştırmalar ve deneyler sunulmuştur. Ek olarak, Bayes Aktif Öğrenme, Mod-Çökmesi sorunundan etkilenmektedir. Bu problemi azaltmak amacıyla, veri noktalarının çeşitliliğini ve algoritmanın doğruluğunu artırmak için çeşitlilik bazlı bir sorgu algoritması önerilmiştir.
Özet (Çeviri)
Data-intensive models emerge as new advances in Deep Learning take place. However, access to annotated datasets with many data points is not constantly prevalent. This situation emphasizes the need for Active Learning to select the least possible amount of data without compromising the accuracy of the classifier models. Recent advancements occur in Deep Bayesian Active Learning (DBAL), which means incorporating uncertainty of model parameters into a Deep Network. In this work, we present an algorithm that improves the accuracy of a DBAL model in an image classification task. We utilize the representation power of Deep Generative Models by employing their feature extraction capabilities. We obtain improved feature space representation of input data referred to as a latent vector by training a generative model. Instead of using the entire image space in the active learning setting, we demonstrate that utilizing latent space provides better data point selection for the active learning problem, hence obtaining higher accuracy. Furthermore, this study compares different generative models in terms of the ability to capture better feature representation. The informativeness of the data points defines how well an active learning algorithm performs. Therefore, capturing the latent space representation of a data point by extracting the highest information value possible is a significant contribution. We provide comparisons and experiments on different kinds of Generative Models, namely Vanilla Variational Autoencoders (VAEs), Maximum Mean Discrepancy Variational Autoencoders (MMDVAE) and Bidirectional Generative Adversarial Networks (BiGANs). Additionally, Bayesian Active Learning suffers from the Mode-Collapse problem. In order to ease that, we propose a diversity-based query algorithm to enhance the diversity of active points and improve the accuracy of the algorithm.
Benzer Tezler
- On real-world face super-resolution and face image synthesis evaluation
Gerçek dünya yüz süper çözünürlüğü ve yüz görüntüsü sentezi değerlendirmesi üzerine
ERDİ SARITAŞ
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. HAZIM KEMAL EKENEL
- Denetimsiz derin öğrenme kullanılarak dijital meme tomosentezi görüntülerinde bulanıklığın giderilmesi
Unsupervised deblurring of digital breast tomosynthesis images using deep learning
MÜBERRA AYDIN
Yüksek Lisans
Türkçe
2023
Mühendislik Bilimleriİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
DOÇ. DR. İSA YILDIRIM
- Development of a voice filter and enhancement method based on deep learning
Başlık çevirisi yok
ADNAN ABDULLAH ATIYAH
Yüksek Lisans
İngilizce
2020
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolAltınbaş ÜniversitesiBilişim Teknolojileri Ana Bilim Dalı
PROF. DR. OSMAN NURİ UÇAN
- Derin öğrenme tabanlı yöntemlerle düşük ışıklı görüntü iyileştirme
Low light image enhancement with deep learning based methods
EMİN CİHANGİR US
Yüksek Lisans
Türkçe
2024
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. ENDER METE EKŞİOĞLU
- Derin öğrenme teknikleriyle yazılım kod kalitesi analiz ve iyileştirme öneri sistemi geliştirilmesi
Development of software code quality analysis and improvement suggestion system with deep learning techniques
OĞUZHAN OKTAY BÜYÜK
Yüksek Lisans
Türkçe
2021
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolFatih Sultan Mehmet Vakıf ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ ALİ NİZAM