Improvement of deep neural networks by intelligent model initialization
Akıllı model ilklendirilmesi ile derin sinir ağlarının iyileştirilmesi
- Tez No: 599037
- Danışmanlar: PROF. DR. ÖMER NEZİH GEREK
- Tez Türü: Doktora
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2019
- Dil: İngilizce
- Üniversite: Eskişehir Teknik Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Elektronik Bilim Dalı
- Sayfa Sayısı: 132
Özet
Yakın zamanda ulaşılması kolaylaşan yüksek paralel işlem gücü ve etiketli görsel veriden yararlanılarak derin öğrenmede kaydedilen gelişmeler görsel tanıma başarımında kayda değer ilerlemelere neden olmuştur. Bu çalışmalardan ortaya çıkan yöntemler arasından büyük miktarda etiketli veri ile denetimli eğitilen derin evrişimsel sinir ağları çeşitli görsel görevlerde tutarlı bir biçimde en iyi sonuçları vermektedir. Buna karşın bu yöntemlerin ihtiyaç duyduğu veri miktarı gerçek dünyadaki uygulamalardaki faydalarını sınırlamaktadır. Bu çalışmada derin evrişimsel sinir ağlarını bu uç seviyedeki veri gereksinimden kurtarmanın yollarını araştırdık. İlk olarak, ImageNet öneğitiminden aktarılan temsillerin hedef veri dağılımı oldukça farklı olsa bile aşırı uyumu azalttığını gösterdik. Buna ek olarak çözümsel olarak tasarlanmış modellerle rassal olarak eğitim verisi üretmek için iki yaklaşım önerdik. Önerilen ilk yaklaşım, tanınacak hedef örüntülerin düşük seviyeli olduğu durumlarda kullanılabilir olan Gestalt ilkelerine dayalı olarak tamamen yapay eğitim verisi üretilmesidir. Buna karşılık eğer tanınacak hedef örüntü yüksek seviyeli ise eğitim verisi ImageNet benzeri mevcut bir veri kümesinden türetilir. Çözümsel olarak tasarlanmış unsurlardan faydalanan bu iki yöntem modele bilgi yerleştirerek veri bağımlılığını azaltmaktadır.
Özet (Çeviri)
Developments in deep learning leveraging the recent abundance of parallel computational power and visual data have resulted in significant advances in visual recognition performance. Among the methods that have emerged from this work, deep convolutional neural networks trained with a large amount of data in a supervised manner has been able to consistently deliver state of the art performance in various visual tasks. However, the amount of data this method requires limits its usefulness in real-world applications. In this study, we investigate methods to relieve deep convolutional neural networks from extreme data dependency. First, we show that transferring representations from ImageNet pretraining reduces overfitting even if the target data distribution is significantly different. In addition, we propose two approaches to stochastically generate training data using analytically designed models. The first approach is to generate entirely synthetic training data based on Gestalt principles, which is suitable when the target pattern to be recognized is low-level. Alternatively, if the target pattern to be recognized is high-level, training data is derived from an existing dataset such as ImageNet. By utilizing analytically designed elements, these two approaches inject knowledge to the model and reduce data-dependency.
Benzer Tezler
- Exploring fusion models in computer vision for medical image computing
Başlık çevirisi yok
DUYGU SARIKAYA
Doktora
İngilizce
2017
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolState University of New York at BuffaloDr. JASON J. CORSO
- Mikroşebekelerde ada mod çalışmanın tespiti ve güç kalitesi olaylarının sınıflandırılması için yapay zekâ tabanlı kontrol yöntemlerinin geliştirilmesi
Development of artificial intelligence based control methods for detection of islanding conditions and classification of power quality events in microgrids
ALPER YILMAZ
Doktora
Türkçe
2023
Elektrik ve Elektronik MühendisliğiBursa Teknik ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. GÖKAY BAYRAK
- Trafik işaret levhaları için bir sürücü destek sistemi önerisi
Driver assistance system recommendation for traffic signs
MUHAMMED BUĞRA KIZILARSLANOĞLU
Yüksek Lisans
Türkçe
2024
UlaşımAtatürk Üniversitesiİnşaat Mühendisliği Ana Bilim Dalı
DOÇ. AHMET ATALAY
- Uzman sistemler ve insan kaynakları yönetiminde bir uygulama
Export system and a export system approach in human resources
ÖZLEM VİDİN
- Benek gürültüsü gidermeye dayalı veri artırma ile derin ağlarda radar hedef sınıflandırma
Despeckling based data augmentation approach in deep learning based radar target classification
ŞAKİR HÜDAİ MERT CEYLAN
Yüksek Lisans
Türkçe
2022
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. IŞIN ERER