Comparison of multi-layer perceptron algorithms
Başlık çevirisi mevcut değil.
- Tez No: 29908
- Danışmanlar: YRD. DOÇ. DR. H. LEVENT AKIN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Algoritmalar, Optimizasyon, Yapay sinir ağları, Algorithms, Optimization, Artificial neural networks
- Yıl: 1993
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
ÖZET Hata geri yayma ağının öğrenme evresi, bir şarta bağlı olmayan optimizasyon problemi olarak kolaylıkla incelenebilir. Böyle bir problemin çözümü, bağımsız değişkenler serisini sistematik bir şekilde değiştirerek bir hedef fonksiyonunun azaltılmasını veya artırılmasını içerir. Birçok uygulamalarda, yapay sinir ağındaki bağlantı sayısı oldukça fazla olduğundan dolayı, klasik hata geri yayma metodu için öğrenme zamanı oldukça uzun sürer. Sayısal optimizasyon teorisinin sunduğu zengin ve güçlü teknikler sinir ağlarının öğrenme oranını geliştirmek için kolaylıkla uygulanabilir. Bu çalışma dört adet sayısal optimizasyon metodunu (Conjugate Gradient, Quasi-Newton.Levenberg-Marquardt, Nelder-Mead metodları) ve bunların çok katmanlı perseptronlar için uygulanmasını içerir. Bu çalışmada ayrıca dışlamalı- veya öğesi, parite (eşlik) biti, ve düzensiz zaman serileri tahmini problemleri için klasik geri yayma ağı metodu ile sayısal optimizasyon metodlarının karşılaştırma sonuçları da verilmiştir. Dışlamalı-veya öğesi, parite (eşlik) biti, ve düzensiz zaman serileri tahmini problemleri için, kullanılan sayısal optimizasyon metodlarının klasik hata geri yayma metoduna göre daha hızlı olduğu bulunmuştur. Ayrıca, sayısal optimizasyon metodlarının klasik hata geri yayma metoduna göre çok daha az sayıda fonksiyon ve türev hesaplanması gerektirdiği de gözlenmiştir.
Özet (Çeviri)
IV ABSTRACT The learning phase of a backpropagation network can easily be viewed as an unconstrained optimisation problem. The solution of such a problem typically involves modifying a set of independent variables in a systematic fashion to minimise or maximise some objective function. In many applications, the number of interconnects or weights in a neural network is so large that the learning time for the conventional backpropagation algorithm can be excessively long. Numerical optimisation theory offers a rich and robust set of techniques which can be applied to neural networks to improve learning rates. In this work four groups of numerical optimisation methods (Conjugate Gradient Methods, Quasi-Newton Methods, Levenberg-Marquart Method and Nelder-Mead Method) and their application to the multi-layer perceptrons is examined. The results of exclusive-OR, three-bit parity and chaotic time series prediction problems, which compare conventional backpropagation and numerical optimisation methods, are also presented in this work. For exclusive-OR, three-bit parity and chaotic time series prediction problems we found that the above mentioned numerical methods are faster than conventional backpropagation. It was also observed that numerical methods also require much less number of function and gradient evaluations than conventional backpropagation with momentum.
Benzer Tezler
- Comparison of different machine learning techniques in predicting the price movement of Borsa Istanbul Stock Market
İstanbul Borsası'nın fiyat hareketini tahmin etmek için farklı makine öğrenme tekniklerinin karşılaştırılması
TARIK ZİYADOĞLU
Yüksek Lisans
İngilizce
2018
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolGazi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. NECAATTİN BARIŞÇI
- Machine learning based multi-scale joint forecasting-scheduling for the internet of things
Nesnelerin interneti için makine öğrenmesi tabanlı çok ölçekli bütünleşik tahminleme-çizelgeleme
MERT NAKIP
Yüksek Lisans
İngilizce
2020
Elektrik ve Elektronik MühendisliğiYaşar ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. VOLKAN RODOPLU
PROF. DR. CÜNEYT GÜZELİŞ
- Yapı cephelerinin yatay ve düşey ekseninde renk algısının EEG analizi için bir yaklaşım önerisi: eğitim yapıları örneği
A proposal for an approach to EEG analysis of color perception along the horizontal and vertical axes of building facades: the example of educational buildings
RÜMEYSA BETÜL İPEK
Doktora
Türkçe
2026
MimarlıkDicle ÜniversitesiMimarlık Ana Bilim Dalı
PROF. DR. FATMA DEMET AYKAL
DOÇ. DR. ABDULNASIR YILDIZ
- Prediction of transaction counts in correspondent banking using neural networks
Muhabir bankacılıkta işlem sayılarının sinir ağları kullanılarak tahmin edilmesi
FAZIL CÜNEYT CÜCÜ
Yüksek Lisans
İngilizce
2022
BankacılıkBahçeşehir ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ CEMAL OKAN ŞAKAR
- A decision support system on packaging planning using machine learning algorithms: Industrial case study
Paketleme planlaması için makine öğrenmesi algoritmaları kullanarak bir karar destek sistemi: Bir yan sanayi uygulaması
BEGÜM ŞENER
Yüksek Lisans
İngilizce
2021
Mühendislik Bilimleriİstanbul Teknik Üniversitesiİşletme Mühendisliği Ana Bilim Dalı
PROF. DR. FERHAN ÇEBİ