An analysis on dimensionality and architecture on generative models
Üretken modellerde boyutsallik ve mimari uzerine analiz
- Tez No: 881347
- Danışmanlar: PROF. DR. BERTAN YILMAZ BADUR
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2023
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Hesaplamalı Bilimler ve Mühendislik Ana Bilim Dalı
- Bilim Dalı: Hesaplamalı Bilim ve Mühendislik Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Derin üretici modeller, güçlü bir makine öğrenme modeli sınıfıdır. Ancak eğitim sürecini yürütmek için bile önemli bir hesaplama gücü ve teknik bilgi gerekmektedir. Hiperparametreleri aramak dahi yüksek bir hesaplama maliyetini gerektirir. Dahası, üretici modelleri değerlendirmek için hala devam eden araştırmalar bulunmakta ve sağlam ve tutarlı bir metrik eksikliği nedeniyle üretici model mimarileri ve algoritmaları arasında sınırlı karşılaştırmalar bulunmaktadır. Bu çalışmada iki tür üretici model mi- marisini -Üretken Karşıt Ağlar ve Gerçel Değerli Hacim Korumayan akış modelleri- sentetik veri kümeleri ve iyi bilinen bir görüntü veri kümesi olan MNIST'i kullanarak karşılaştırmaya çalıştık. Veri boyutluluğu ve değişkenliğine göre veri yakalama yetenek- lerini değerlendirdik. Model karmaşıklığının -modelin parametre sayısı olarak ölçüldüğü durumda- etkisini incelemek için Minimum Tanım Uzunluğu (MDL) tabanlı bir metrik öneriyoruz. Tahmini Kullback-Leibler (KL) sapma ve önerilen MDL tabanlı metrik sonuçları sunuyoruz. Bulgularımız, NVP modellerinin, daha düşük boyutlu veri kümeleri için GAN'larla karşılaştırıldığında daha az parametre kullanarak daha fazla veri değişkenliği kod- lama yeteneğine sahip olduğunu göstermektedir. Önerilen MDL tabanlı metrik, veri değişkenliği ve boyutluluğunu dikkate alarak belirli bir veri kümesi için model karmaşıklığı açısından uygun mimariyi seçmeyi kolaylaştırır.
Özet (Çeviri)
Deep generative models are powerful class of machine learning models. How- ever, a significant amount of computing power and technical knowledge is required to conduct the training process. Even searching for hyperparameters requires a high com- putational cost. Moreover, there is still ongoing research on methods for evaluating generative models, and owing to the lack of a robust and consistent metric, there are limited comparisons between generative model architectures and algorithms. In this study, we attempted to compare two types of generative model architectures, Gener- ative Adversarial Networks (GANs) and Real-valued Non-Volume-Preserving (NVP) flows, with synthetic datasets as well as with a well known image dataset MNIST. We evaluate their data capturing ability according to data dimensionality and variability. We propose an Minimum Description Length (MDL) based metric to examine the ef- fect of model complexity which is measured as model's parameter count. We provide estimated Kullback-Leibler (KL) divergence and propsed MDL-based metric results. Our findings indicate that NVP models have the capability to encode more data variability while utilizing fewer parameters when contrasted with GANs for lower di- mensional datasets. The proposed MDL-based metric, facilitates selecting suitable architecture in terms of model complexity for a given dataset considering its variability and dimensionality.
Benzer Tezler
- Saldırı tespit sistemlerinde yapay zekâ tabanlı anomali tespiti
Artificial intelligence-based anomaly detection in intrusion detection systems
AWAB DAW SAAD KHALEFA
Yüksek Lisans
Türkçe
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. AHMET ZENGİN
- Emotion and gender identification on speech signals using deep learning methods
Konuşma sinyalleri üzerinde derin öğrenme yöntemleri kullanarak duygu ve cinsiyet tespiti
ÖZGÜR ÖZDEMİR
Yüksek Lisans
İngilizce
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolYıldız Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. GÖKHAN BİLGİN
- Gemi pervanelerinde kavitasyon ve kavitasyon erozyonu modellemesi
Cavitation and cavitation erosion modeling on marine propellers
ONUR USTA
Doktora
Türkçe
2018
Gemi Mühendisliğiİstanbul Teknik ÜniversitesiGemi İnşaatı ve Gemi Makineleri Mühendisliği Ana Bilim Dalı
PROF. DR. EMİN KORKUT
- Yan kanal saldırılarının derin öğrenme tabanlı analizi
Deep learning-based analysis of sidechannel attacks
SENA ASLIBAY
Yüksek Lisans
Türkçe
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar Bilimleri Ana Bilim Dalı
PROF. DR. ÜNAL ÇAVUŞOĞLU
- BAYESIAN INFERENCE FRAMEWORKS FOR LLM ACTIVATION SPACE OPTIMIZATION: A STEIN VARIATIONAL AND PARAMETRIC APPROACH
BÜYÜK DİL MODELİ AKTİVASYON UZAYI OPTİMİZASYONU İÇİN BAYESÇİ ÇIKARIM YAPILARI: STEIN VARYASYONEL VE PARAMETRİK BİR YAKLAŞIM
AYTAÇ KASIMOĞLU
Yüksek Lisans
İngilizce
2026
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiMekatronik Mühendisliği Ana Bilim Dalı (disiplinlerarası)
PROF. DR. MUSTAFA DOĞAN