Neural network topology optimization using estimation of distribution algorithms
Dağılım tahmini algoritmaları kullanarak en uygun yapay sinir ağı yapısının bulunması
- Tez No: 139395
- Danışmanlar: DOÇ. DR. LEVENT AKIN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2003
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 150
Özet
ÖZET DAĞILIM TAHMİNİ ALGORİTMALARI KULLANARAK EN UYGUN YAPAY SİNİR AĞI YAPISININ BULUNMASI Bir yapay sinir ağırım mimarisinin, genelleme performansının ve işleyiş hızının belirlenmesinde çok büyük önemi vardır. Bu yüzden her uygulamaya özgü, eğitim verisini öğrenerek deneme verisi üzerinde genelleme yapabilen en az karmaşık yapının bulunması gerekir. Bununla beraber böyle bir yapının bulunması zordur. Biz bu motivasyonla kendi çalışmamızda, yapay sinir ağı mimarisi uzayı için bir çeşit arama yöntemi geliştirdik. Önce ağ yapılarını kesikli değerlerden oluşan kromo zomlar olarak temsil etmeyi sağlayan bir çeşit direk kodlama mekanizması oluşturduk. Arama mekanizması olarak, genetik algoritmalardan esinlendik fakat genetik operatör olarak, aramaya yön vermek amacıyla, bir çeşit dağılım tahmini algoritması olan Bayesian optimizasyon algoritmasını kullandık. Bayesian optimizasyon algoritmasında kromo zomlar Bayesian ağları kullanılarak temsil edilir. Optimizasyon yöntemimizin başarılı olduğunu, PROBENİ ölçüm setinden aldığımız her biri üç veri setinden oluşan iki sınıflandırma problemi ve iki regresyon problemi üzerinde deneyerek gösterdik. Üzerinde çalıştığımız çoğu veri seti için, optimizasyon yöntemimizin ortaya çıkardığı ağ yapılarının performansı, deneme yanılma yöntemleriyle ya da geleneksel genetik algoritmalar kullanılarak bulunmuş ağların performansına göre daha iyi düzeyde bulundu.
Özet (Çeviri)
IV ABSTRACT NEURAL NETWORK TOPOLOGY OPTIMIZATION USING ESTIMATION OF DISTRIBUTION ALGORITHMS The topology of an ANN has a significant impact on its generalization perfor mance and speed of operation. For this reason, an optimal network topology, the smallest complexity which still allows the network to learn the training data and to generalize over the test data, should be found specific to each application. However, it is difficult to find an optimal topology. With this motivation, in our work, we developed a way of searching in the space of ANN architectures. First, we devised a kind of direct encoding mechanism for representing network topologies as chromosomes. As the search mechanism, we inspired from genetic algorithms but we used Bayesian optimization algorithm (BOA), a kind of estimation of distribution algorithm for guiding the progression, as the genetic operator. In BOA, Bayesian networks are used for representation of chromosomes. The success of our optimization tool was tested on two classification problems and two regression problems, with three data sets in each, from PROBEN1 benchmarking suite. The generalization performances of the obtained networks by our optimization tool are mostly better than the hand designed ones and the ones obtained by using traditional genetic algorithms for most of the data sets used for benchmarking.
Benzer Tezler
- Motor takozları bağlantı elemanlarının yapısal tasarımı ve yapay sinir ağları ile analiz tahmini
Structural design of engine mount bracket parts and analysis prediction with artificial neural networks
MUSTAFA KEREM ÖZDER
Yüksek Lisans
Türkçe
2023
Otomotiv MühendisliğiBursa Uludağ ÜniversitesiOtomotiv Mühendisliği Ana Bilim Dalı
PROF. DR. FERRUH ÖZTÜRK
- Dynamic security enhancement of power systems via population based optimization methods integrated with artificial neural networks
Yapay sinir ağlarının entegre edildiği popülasyon tabanlı optimizasyon yöntemleriyle güç sistemlerinin dinamik güvenliğinin iyileştirilmesi
CAVİT FATİH KÜÇÜKTEZCAN
Doktora
İngilizce
2015
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiElektrik Mühendisliği Ana Bilim Dalı
DOÇ. VEYSEL MURAT İSTEMİHAN GENÇ
- Neural network topology optimization with genetic algorithms using indirect encoding
Yapay sinir ağları yapılarının genetik algoritmalarla dolaylı kodlanarak eniyilenmesi
ERKAN BULUT
Yüksek Lisans
İngilizce
2001
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. H. LEVENT AKIN
- Neural network topology optimization with genetic algorithms
Yapay sinir ağı yapılarının, genetik yordamlar ile en iyilenmesi
BANU BAYRAKTAR
Yüksek Lisans
İngilizce
1996
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiDOÇ.DR. H. LEVENT AKIN
- Ağ trafik atama problemlerinin optimizasyonu için nümerik algoritmalar: Bir yol ağı topolojisinin optimizasyonu
Numerical algorithms for optimizing network traffic assignment problems: Optimization of a road network topology
PELİN GÜVENÇ DEMİR