Competing labels: A heuristic approach to pseudo-labeling in deep semi-supervised learning
Yarışan etiketler: Yarı denetimli derin öğrenmedeki sözde etiketlemeye buluşsal bir yaklaşım
- Tez No: 720193
- Danışmanlar: DOÇ. DR. ŞEYDA ERTEKİN BOLELLİ, DOÇ. DR. HAMDULLAH YÜCEL
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2022
- Dil: İngilizce
- Üniversite: Orta Doğu Teknik Üniversitesi
- Enstitü: Uygulamalı Matematik Enstitüsü
- Ana Bilim Dalı: Bilimsel Hesaplama Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 87
Özet
Yarı denetimli öğrenme, derin öğrenme modellerinin büyük miktarda etiketli veriye olan bağımlılığını azaltmada yoğun şekilde faydalanılan yaklaşımlardan biridir. Bu yaklaşımda çoğunlukla kullanılan metot sözde etiketlemedir. Ancak, sözde etiketleme, özellikle orjinal formu, atanan etiketler hatalı olduğu zaman, gürültülü eğitimden önemli bir ölçüde olumsuz etkilenmektedir. Bu problemin etkisini azaltmak için çalışmamızda, sinir ağına gönderilen gradyanı inceliyor ve yarışan etiketler metodunu öne sürüyoruz. Bu metotta kayıp fonksiyonunu ve sözde etiketleri, modelin aldığı gradyanın birden fazla eksi eleman içermesini sağlayacak şekilde seçiyoruz. Metodumuzu MNIST, Fashion-MNIST, ve KMNIST veri kümelerinde test ediyor ve sunduğumuz metodun orjinal çalışmadaki metoda kıyasla daha iyi bir genelleştirme performansına sahip olduğunu gösteriyoruz.
Özet (Çeviri)
Semi-supervised learning is one of the dominantly utilized approaches to reduce the reliance of deep learning models on large-scale labeled data. One mostly used method of this approach is pseudo-labeling. However, pseudo-labeling, especially its originally proposed form tends to remarkably suffer from noisy training when the assigned labels are false. In order to mitigate this problem, in our work, we investigate the gradient sent to the neural network and propose a heuristic method, called competing labels. In this method, we arrange the loss function and choose the pseudo-labels in a way that the gradient the model receives contains more than one negative element. We test our method on MNIST, Fashion-MNIST, and KMNIST datasets and show that our method has a better generalization performance compared to the originally proposed pseudo-labeling method.
Benzer Tezler
- Exploiting metadata, ontologies and semantics to design/enhance new end-user experiences for adaptive pervasive computing environments
Başlık çevirisi yok
AHMET SOYLU
Doktora
İngilizce
2012
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKatholieke Universiteit Leuven (Catholic University of Leuven)PROF. DR. ERİK DUVAL
PROF. DR. PATRİCK DE CAUSMAECKER
PROF. DR. PİET DESMET
- Superpixel assisted deep neural network for breast tumor segmentation in ultrasound images
Süperpiksel destekli derin sinir ağı ile meme ultrason görüntülerinde tümör segmentasyonu
NEFİSE UYSAL
Yüksek Lisans
İngilizce
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. ENDER METE EKŞİOĞLU
ÖĞR. GÖR. MURAT GEZER
- Deyim derlemi oluşturmak için oyunlaştırılmış kitle kaynak kullanımı
Gamified crowdsourcing for idiom corpora construction
ALİ ŞENTAŞ
Yüksek Lisans
Türkçe
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. GÜLŞEN ERYİĞİT
- Toplam kalite yönetimi, kalite güvencesi sistemleri, hizmette kalite yönetimi, çevre yönetim sistemi ve endüstriyel uygulama
Başlık çevirisi yok
GÜLŞEN ÖZKAN
Yüksek Lisans
Türkçe
1996
Endüstri ve Endüstri Mühendisliğiİstanbul Teknik ÜniversitesiPROF.DR. ATAÇ SOYSAL
- Perakende piyasalarında dayanıksız tüketim ürünleri ile ilgili gelişmeler -bireysel markalı ürünlerde satın alma davranışı
Developments regarding fast moving consumer goods at retail markets-buying behavior at the private label products
K. SELÇUK TUZCUOĞLU