Meta-sezgisel algoritmalar ile konvolüsyonel sinir ağı mimarisinin hiper parametrelerinin optimizasyonu
Optimization of hyper parameters of convolutional neural network architecture with meta-heuristic algorithms
- Tez No: 736372
- Danışmanlar: PROF. DR. ŞAKİR TAŞDEMİR
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2022
- Dil: Türkçe
- Üniversite: Selçuk Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 88
Özet
Konvolüsyonel Sinir Ağları (KSA) özellikle görüntü işleme alanında sıklıkla kullanılan bir derin öğrenme algoritmasıdır. KSA evrişim katmanı, havuzlama katmanı, aktivasyon fonksiyonları ve tam bağlantılı sinir ağlarından oluşmaktadır. KSA tasarımında kullanılan katman sayısı, filtre boyutu, aralık değeri, dolgu yöntemi vb. hiperparametreler ağın başarısı ile doğrudan ilişkilidir. Meta-sezgisel optimizasyon algoritmaları, problemden bağımsız olarak çalışabilen doğa, sürü davranışları, fizik, kimya ve evrim teorisi vb. durumlardan esinlenilerek geliştirilmiş algoritmalardır. Bu çalışmada, filtre sayısı, boyutu, aktivasyon fonksiyonu, havuzlama algoritması, tam bağlantılı katman sayısı, nöron sayısı, öğrenme oranı farklı meta-sezgisel algoritmalar ile belirlenmiştir. Yapay Arı Kolonisi (YAK), Öğretme Öğrenme Temelli Optimizasyon (ÖÖTO), JAYA ve Sosyal Grup Optimizasyon (SGO) meta-sezgisel algoritmaları kullanılarak KSA Mimarilerinin optimum bir şekilde tasarlanmıştır. Aday mimariler CIFAR10 veri seti üzerinde sınıflandırma işlemi gerçekleştirmektedir. KSA mimarilerinin test doğruluk miktarları amaç fonksiyonu olarak kabul edilmiştir. Meta-sezgisel algoritmalarda kullanılan amaç fonksiyonu aday mimarilerin eğitimi sonucu elde edilen doğruluk oranı seçilmiştir. Ayrıca YAK, ÖÖTO, SGO ve JAYA algoritmalarından elde edilen sonuçlar karşılaştırılmıştır. YAK ile KSA tasarımında iterasyonlar sonucunda %94.61'lik bir doğruluk oranı elde edilmiştir. YAK ile maksimum doğruluk oranı 3 derinliğinde elde edilmiştir. ÖÖTO ile %93.97'lik bir doğruluk oranı 3 derinliğinde elde edilmiştir. SGO ile %92.96'lık doğruluk oranı 3 derinliğinde elde edilmiştir. Jaya ile %92.68'lik doğruluk oranı 3 derinliğinde elde edilmiştir. Böylece en yüksek başarım oranı YAK algoritması ile edilmiştir.
Özet (Çeviri)
Convolutional Neural Networks (CNN) is a frequently used deep learning algorithm, especiallin image processing. CNN consists of a convolutional layer, coupling layer, activation functions, and fully connected neural networks. The number of layers, filter size, gap value, padding method, etc. used in the CNN design. Hyperparameters are directly related to the success of the network. Meta-heuristic optimization algorithms can work independently of problems such as nature, swarm behavior, physics, chemistry and evolution theory, etc. They are algorithms developed based on situations. In this study, the number of filters, size, activation function, association algorithm, the number of fully connected layers, the number of neurons, and learning rate were determined by different meta-heuristic algorithms. Artificial Bee Colony (ABC), Teaching Learning Based Optimization (TLBO), JAYA, and Social Group Optimization (SGO) meta-heuristic algorithms are optimally designed using CNN Architectures. Candidate architectures perform classification on the CIFAR10 dataset. The accuracy rate obtained as a result of training the objective function candidate architectures used in meta-heuristic algorithms has been chosen. In addition, the performances of ABC, TLBO, SGO, and JAYA algorithms were compared among themselves. As a result of iterations, an accuracy rate of 94.61% was obtained in the design of the CNN with the ABC. Maximum accuracy with ABC was achieved at a depth of 3. An accuracy rate of 93.97% was obtained with the TLBO at depth 3. With SGO, an accuracy rate of 92.96% was obtained at a depth of 3. With Jaya, an accuracy rate of 92.68% was achieved at a depth of 3. Thus, the highest success rate was achieved with the ABC algorithm.
Benzer Tezler
- Meta-sezgisel algoritmalar ile karayolu boykesit optimizasyonu
Optimization of highway vertical alighment by meta-heuristic algorithms
SINA ASHERLOU
Doktora
Türkçe
2022
UlaşımOndokuz Mayıs Üniversitesiİnşaat Mühendisliği Ana Bilim Dalı
DOÇ. DR. ERHAN BURAK PANCAR
PROF. DR. ŞEREF ORUÇ
- Hyper-parameter optimization of deep neural networks with metaheuristic algorithms
Meta-sezgisel algoritmalar ile derin sinir ağlarının hiper-parametre en iyileştirmesi
MUSTAFA EVREN KIYMAÇ
Yüksek Lisans
İngilizce
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolAdana Alparslan Türkeş Bilim Ve Teknoloji ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ YASİN KAYA
- Meta-sezgisel algoritmalar ile Trafik Sinyal Optimizasyonu
Traffic Signal Optimization with meta-heuristic algorithms
OLCAY ADIYAMAN
Yüksek Lisans
Türkçe
2023
Elektrik ve Elektronik MühendisliğiKayseri ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. ALİ DURMUŞ
- Meta-sezgisel algoritmalar ile kriptografik boole fonksiyonlarının tasarımı
Design of cryptographic boolean functions with meta-heuristic algorithms
EROL ÖZÇEKİÇ
Doktora
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKarabük ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. HAKAN KUTUCU
PROF. DR. SELÇUK KAVUT
- Meta sezgisel algoritmalar ile biyolojik sinyallerin işlenmesi
Biological signal processing using metaheuristic algorithms
GÜRSEL KIZILASLAN
Yüksek Lisans
Türkçe
2012
Biyomühendislikİstanbul ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
YRD. DOÇ. DR. NİYAZİ KILIÇ