Improved artificial neural network training with advanced methods
İleri yöntemlerle geliştirilmiş yapay sinir ağı eğitimi
- Tez No: 520886
- Danışmanlar: PROF. DR. ÖMER MORGÜL
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Elektrik ve Elektronik Mühendisliği, Computer Engineering and Computer Science and Control, Electrical and Electronics Engineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2018
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 132
Özet
Yapay Sinir Ağları (YSA) sınıflandırma, kümelendirme vb. farklı makine öğrenmesi görevleri için kullanılmaktadır. Bu ağlar günlük hayatımızda önemli görevler yapıyor ve yeni hizmetler sunmaktadırlar. Bu ağların öğrenme kapasiteleri, artan hesaplama gücü ve veri miktarıyla, 2000li yıllardan beri önemli ölçüde ivmelenmektedir. Bu nedenle, bu ağlar üzerinde yapılan araştırmalar Derin Öğrenme ismiyle yeniden adlandırılmış ve, sadece sinir ağlarında değil Makine Öğrenmesi disiplini için de, önemli bir araştırma sahası olarak doğmuştur. Böylesi önemli bir araştırma alanı için, bu ağların eğitiminde kullanılan teknikler daha başarılı sonuçlar için anahtar olarak görülebilir. Bu çalışmada, bu eğitim prosedürünün her kısmı farklı ve geliştirilmiş - kimi zaman yeni - teknikler siyah-beyaz ve renkli imaj veri setlerini sınıflandıran evrişimsel sinir ağları üzerinde araştırılmıştır. İleri yöntemler, He-budanmış Gauss ön değer atama gibi literatürde var olanları içermiştir. Buna ek olarak, bizim literatüre katkımız olan SinAdaMax iyileştiricisi, Dominant Olarak Üstel ve Doğrusal Birim (ing. DELU), He-budanmış Laplasyen ve Maksimum-Bölütleme katmanları için Piramit Yaklaşımı gibileri de içermiştir. Bu tezin bölümlerinde, başarı oranları bu ileri yöntemlerin - özellikle bizim katkımız olan DELU ve SinAdaMax iyileştirilmiş metotlarının - kümülatif olarak eklenmesiyle arttırılmıştır. Sonuç olarak, farklı veri setleri için başarı oranı eşikleri - bu yöntemlerle geliştirilmiş ve önemli test başarı artışlarına ulaşmış - temel evrişimsel sinir ağları ile 15-21 saat içinde (tipik olarak bir günden daha az sürede) karşılanmıştır. Böylece, bu farklı ve ileri yöntemlerle elde edilmiş daha iyi performanslar, tanınmış sınıflandırma veri setleri kullanılarak gösterilmiştir.
Özet (Çeviri)
Artificial Neural Networks (ANNs) are used for different machine learning tasks such as classification, clustering etc. They have been utilized in important tasks and offering new services more and more in our daily lives. Learning capabilities of these networks have accelerated significantly since 2000s, with the increasing computational power and data amount. Therefore, research conducted on these networks is renamed as Deep Learning, which emerged as a major research area - not only in the neural networks, but also in the Machine Learning discipline. For such an important research field, the techniques used in the training of these networks can be seen as keys for more successful results. In this work, each part of this training procedure is investigated by using of different and improved - sometimes new - techniques on convolutional neural networks which classify grayscale and colored image datasets. Advanced methods included the ones from the literature such as He-truncated Gaussian initialization. In addition, our contributions to the literature include ones such as SinAdaMax Optimizer, Dominantly Exponential Linear Unit (DELU), He-truncated Laplacian initialization and Pyramid Approach for Max-Pool layers. In the chapters of this thesis, success rates are increased with the addition of these advanced methods accumulatively, especially with DELU and SinAdaMax which are our contributions as upgraded methods. In result, success rate thresholds for different datasets are met with simple convolutional neural networks - which are improved with these advanced methods and reached promising test success increases - within 15 to 21 hours (typically less than a day). Thus, better performances are obtained by those different and improved techniques are shown using well-known classification datasets.
Benzer Tezler
- İleri istatistiksel yöntemler kullanarak rüzgârdan üretilen elektriksel gücün tahmini
Wind-electric power forecast using advanced statistical methods
SERKAN BUHAN
Doktora
Türkçe
2015
Elektrik ve Elektronik MühendisliğiHacettepe ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. IŞIK ÇADIRCI
- Yapıların sismik izolasyonunda ileri denetim algoritmalarının uygulanması
Application of advanced control algorithms in seismic isolation of structures
OĞUZ YAKUT
Doktora
Türkçe
2007
Makine MühendisliğiFırat ÜniversitesiMakine Mühendisliği Ana Bilim Dalı
DOÇ. DR. HASAN ALLİ
- Derin öğrenme yöntemi ile optik uydu görüntülerinden gemi tespiti
Ship detection by optical satellite images with deep learning method
OSMAN DUMAN
Yüksek Lisans
Türkçe
2019
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik Üniversitesiİletişim Sistemleri Ana Bilim Dalı
PROF. DR. MESUT KARTAL
- Termal görüntülere derin öğrenme tabanlı süper çözünürlük yöntemlerinin uygulanması
Application of deep learning based super resolution in thermal images
CANER CİVE
Yüksek Lisans
Türkçe
2023
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. ENDER METE EKŞİOĞLU
- Etkin sorgu önerileri için kullanıcı sorgularının görev tabanlı yönetilmesi
Task based management of user queries for effective query suggestions
NURULLAH ATEŞ
Doktora
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. YUSUF YASLAN