Geri Dön

Improvement of deep neural networks by intelligent model initialization

Akıllı model ilklendirilmesi ile derin sinir ağlarının iyileştirilmesi

  1. Tez No: 599037
  2. Yazar: BURAK BENLİGİRAY
  3. Danışmanlar: PROF. DR. ÖMER NEZİH GEREK
  4. Tez Türü: Doktora
  5. Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2019
  8. Dil: İngilizce
  9. Üniversite: Eskişehir Teknik Üniversitesi
  10. Enstitü: Lisansüstü Eğitim Enstitüsü
  11. Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Elektronik Bilim Dalı
  13. Sayfa Sayısı: 132

Özet

Yakın zamanda ulaşılması kolaylaşan yüksek paralel işlem gücü ve etiketli görsel veriden yararlanılarak derin öğrenmede kaydedilen gelişmeler görsel tanıma başarımında kayda değer ilerlemelere neden olmuştur. Bu çalışmalardan ortaya çıkan yöntemler arasından büyük miktarda etiketli veri ile denetimli eğitilen derin evrişimsel sinir ağları çeşitli görsel görevlerde tutarlı bir biçimde en iyi sonuçları vermektedir. Buna karşın bu yöntemlerin ihtiyaç duyduğu veri miktarı gerçek dünyadaki uygulamalardaki faydalarını sınırlamaktadır. Bu çalışmada derin evrişimsel sinir ağlarını bu uç seviyedeki veri gereksinimden kurtarmanın yollarını araştırdık. İlk olarak, ImageNet öneğitiminden aktarılan temsillerin hedef veri dağılımı oldukça farklı olsa bile aşırı uyumu azalttığını gösterdik. Buna ek olarak çözümsel olarak tasarlanmış modellerle rassal olarak eğitim verisi üretmek için iki yaklaşım önerdik. Önerilen ilk yaklaşım, tanınacak hedef örüntülerin düşük seviyeli olduğu durumlarda kullanılabilir olan Gestalt ilkelerine dayalı olarak tamamen yapay eğitim verisi üretilmesidir. Buna karşılık eğer tanınacak hedef örüntü yüksek seviyeli ise eğitim verisi ImageNet benzeri mevcut bir veri kümesinden türetilir. Çözümsel olarak tasarlanmış unsurlardan faydalanan bu iki yöntem modele bilgi yerleştirerek veri bağımlılığını azaltmaktadır.

Özet (Çeviri)

Developments in deep learning leveraging the recent abundance of parallel computational power and visual data have resulted in significant advances in visual recognition performance. Among the methods that have emerged from this work, deep convolutional neural networks trained with a large amount of data in a supervised manner has been able to consistently deliver state of the art performance in various visual tasks. However, the amount of data this method requires limits its usefulness in real-world applications. In this study, we investigate methods to relieve deep convolutional neural networks from extreme data dependency. First, we show that transferring representations from ImageNet pretraining reduces overfitting even if the target data distribution is significantly different. In addition, we propose two approaches to stochastically generate training data using analytically designed models. The first approach is to generate entirely synthetic training data based on Gestalt principles, which is suitable when the target pattern to be recognized is low-level. Alternatively, if the target pattern to be recognized is high-level, training data is derived from an existing dataset such as ImageNet. By utilizing analytically designed elements, these two approaches inject knowledge to the model and reduce data-dependency.

Benzer Tezler

  1. Elektrikli araçların kullanıcı tercihlerine göre sınıflandırılması: hibrit bir yaklaşım

    Classification of electric vehicles based on user preference: a hybrid approach

    MEHMET DEMİR

    Yüksek Lisans

    Türkçe

    Türkçe

    2025

    Endüstri ve Endüstri Mühendisliğiİstanbul Teknik Üniversitesi

    Endüstri Mühendisliği Ana Bilim Dalı

    DOÇ. DR. UMUT ASAN

  2. Kanal tabanlı özellik temsili ve derin öğrenmeye dayalı uykululuk sınıflandırması

    Drowsiness classification based on channel-based feature representation and deep learning

    MUSTAFA RIFAT ÇELİK

    Yüksek Lisans

    Türkçe

    Türkçe

    2025

    Elektrik ve Elektronik Mühendisliğiİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    PROF. DR. ZÜMRAY ÖLMEZ

  3. Mikroşebekelerde ada mod çalışmanın tespiti ve güç kalitesi olaylarının sınıflandırılması için yapay zekâ tabanlı kontrol yöntemlerinin geliştirilmesi

    Development of artificial intelligence based control methods for detection of islanding conditions and classification of power quality events in microgrids

    ALPER YILMAZ

    Doktora

    Türkçe

    Türkçe

    2023

    Elektrik ve Elektronik MühendisliğiBursa Teknik Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    DOÇ. DR. GÖKAY BAYRAK

  4. A modular multı-stage method for vehıcle detectıon and classıfıcatıon ın low resolutıon ımages

    Düşük çözünürlüklü görüntülerde araç tespi̇ti̇ ve siniflandirmasi i̇çi̇n birden fazla aşamali modüler bi̇r yöntem

    BAMOYE MAIGA

    Doktora

    İngilizce

    İngilizce

    2025

    Elektrik ve Elektronik MühendisliğiAtılım Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    DOÇ. DR. YASER DALVEREN