Geliştirilmiş yapay sinir ağı algoritmaları ve uygulamaları
Improved artificial neural network algorithms and applications
- Tez No: 232964
- Danışmanlar: PROF. DR. MEMMEDAĞA MEMMEDLİ
- Tez Türü: Doktora
- Konular: İstatistik, Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Statistics, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Geri yayılım ağları, Kararlılık, Momentum, Yakınsaklık, Back propagation networks, Stability, Momentum, Convergence
- Yıl: 2008
- Dil: Türkçe
- Üniversite: Anadolu Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: İstatistik Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu tez çalışmasında, ilk önce deterministik kuadratik performans fonksiyonu durumunda momentumlu gradyan düşümü algoritmasının kararlılığı ve yakınsama hızı incelenmiştir. Teorik incelemeler sonucunda, hızlı yakınsamayı sağlayan etkin öğrenme oranı ve momentum faktörü formülleri, Hessian'ın en büyük ve en küçük özdeğerlerini kullanarak belirlenmiştir. Bu yaklaşım rassal olarak oluşturulan kuadratik test problemleri üzerinde denenmiş ve etkin öğrenme parametreleriyle çalışan algoritmanın diğer geleneksel momentumlu gradyan düşümü algoritmalarından daha üstün performans gösterdiği gözlenmiştir. Kuadratik performans fonksiyonu için elde edilen etkin öğrenme parametreleri, hatanın, ağ ağırlıklarının herhangi bir doğrusal olmayan fonksiyonu olduğu genel duruma uyarlanmıştır. Genel durumda etkin parametrelerle çalışacak momentumlu gradyan düşümü algoritmasının dört farklı versiyonu önerilmiştir. Geliştirilen algoritmalar gerçek veri kümesine sahip güncel test problemleri üzerinde diğer geleneksel gradyan düşümü algoritmaları ile karşılaştırılmıştır. Etkin öğrenme parametreli algoritmaların, diğer geleneksel gradyan düşümü algoritmalara göre genelde daha iyi yakınsama performansı gösterdiği gözlenmiştir.
Özet (Çeviri)
In this thesis, at first, stability and convergence speed of gradient descent with momentum algorithm is analyzed in the case of a deterministic quadratic performance function. As a consequence of theoretical analyzes, effective learning rate and momentum factor formulas which improve convergence speed are determined from the largest and smallest eigenvalue of the Hessian. This approach is tested on randomly generated test problems and results indicate that the algorithm with effective learning parameters outperforms other conventional gradient descent with momentum algorithms. Effective learning parameters obtained for the quadratic performance function are adapted to the general case where the performance is any nonlinear function of the network weights. Four different versions of gradient descent with momentum algorithm which works compatible with the effective learning parameters are proposed in the general case. Developed algorithms are compared with other conventional gradient descent algorithms on the up-to-date test problems. It is observed that algorithms with the effective learning parameters show better convergence performance than the other conventional gradient descent algorithms in general.
Benzer Tezler
- Hücresel yapay sinir ağları için iki öğrenme algoritması ve görüntü işleme uygulamaları
Two learning algorithms for cellular neural networks and their image processing applications
SİNAN KARAMAHMUT
Yüksek Lisans
Türkçe
1994
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiDOÇ.DR. CÜNEYT GÜZELİŞ
- Fractal image compression with radial basis function neural networks
Radyal taban fonksiyonlu yapay sinir ağları ile fraktal görüntü sıkıştırma
OSMAN ÖZDEMİR
Yüksek Lisans
İngilizce
1998
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
DOÇ. DR. CÜNEYT GÜZELİŞ
- Görüntü sınıflandırması için yapay sinir ağlarının analiz ve optimizasyonu
Analysis and optimization of artificial neural networks for image classification
OZAN ARSLAN
Doktora
Türkçe
2001
Jeodezi ve Fotogrametriİstanbul Teknik ÜniversitesiPROF. DR. OĞUZ MÜFTÜOĞLU
PROF. DR. CANKUT ÖRMECİ
- Veri madenciliği aracı olarak genetik algoritmalar ile yapay sinir ağları ve yapay sinir ağı-genetik algoritma melez modelinin müşteri değerlendirilmesinde kullanılması
Genetic algorithms and artificial neural networks as data mining tools and usage of artificial neural-genetic algorithm hybrid model for customer evaluation
OSMAN ARDA MERİÇ
- Development of a library for CMOS analog neural networks
CMOS analog sinir ağları için bir kütüphane geliştirilmesi
MUSTAFA TAŞKALDIRAN
Yüksek Lisans
İngilizce
2004
Elektrik ve Elektronik MühendisliğiBoğaziçi ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. GÜNHAN DÜNDAR
- Ayçiçeği, yabancı ot ve toprak görüntülerinin LVQ yapay sinir ağları ile ayırt edilmesi üzerine bir araştırma
Sunflower, weed and soil discrimination using LVQ neural networks
FATİH GÖKSEL PEKİTKAN
Yüksek Lisans
Türkçe
2005
ZiraatÇanakkale Onsekiz Mart ÜniversitesiTarım Makineleri Ana Bilim Dalı
DOÇ.DR. İSMAİL KAVDIR