İstatistiksel ve makine öğrenme ile derin sinir ağlarında hiper-parametre seçimi için melez yaklaşım
Hybrid approach for hyper-parameter selection in deep neural networks with statistical and machine learning
- Tez No: 694484
- Danışmanlar: PROF. DR. ÇAĞDAŞ HAKAN ALADAĞ
- Tez Türü: Yüksek Lisans
- Konular: İstatistik, Statistics
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2021
- Dil: Türkçe
- Üniversite: Hacettepe Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: İstatistik Ana Bilim Dalı
- Bilim Dalı: İstatistik Bilim Dalı
- Sayfa Sayısı: 62
Özet
Literatürde, derin sinir ağlarında çok önemli bir problem hiper-parametre seçimidir. Veri analizinde kullanılacak hiper-parametrelerin seçimi için denenebilecek çok fazla kombinasyon vardır. Özellikle büyük veri söz konusu olduğunda, olası tüm kombinasyonların denenmesi mümkün değildir. Literatürde belirtilen seçimin yapılabilmesi için genel kurallar bulunmamasına rağmen, önerilen ve kullanılan bazı yaklaşımlar mevcuttur. Buna karşın, YSA veri odaklı bir yöntem olduğu için belli bir veride kullanılan bir yaklaşımı başka bir veri için kullanmak çoğu zaman mümkün ve uygulanabilir olmamaktadır. Aladağ 2019 yılındaki çalışmasında YSA'nın en önemli problemlerinden biri olan mimari seçim probleminin çözümü için istatistiksel ve makine öğrenmesine dayanan bir melez yaklaşım önermiştir. Belirtilen yaklaşımda, YSA'nın mimarileri ile öngörü performansı arasındaki ilişkinin yapısı basit doğrusal regresyon modeli kullanılarak analiz edilebilmektedir. Bu sayede, mimari seçimi istatistiksel olarak gerçekleştirilmekte ve mimaride kullanılan nöron sayıları ve öngörü performansı arasındaki ilişki yapısı da ortaya konulabilmektedir. Aladağ tarafından önerilen yaklaşım, çok önemli iki avantaj sağlamaktadır. Öncelikle analiz edilen veriye özgü olarak mimari seçimi istatistiksel ve sistematik olarak yapılabilmektedir. İkinci olarak, mimari modeli ile performans arasındaki ilişki yapısı modeli elde edildiğinden, birçok mimarinin performansı çözümleme yapılmadan bile bilenebilmektedir. Gerçekleştirilen tez ii çalışmasında da, Aladağ 2019 tarafından YSA mimari seçimi için önerilen yaklaşım, derin sinir ağlarında hiper-parametre seçimi için genişletilmiştir ve ayrıca hem doğrusal regresyon analizi hem de doğrusal olmayan regresyon analizi uygulanarak kullanılmıştır. Belirtilen melez yaklaşım diyabet hastalığı verisine uygulanmıştır. Diyabet verisi uygulaması sonucunda elde edilen bulgulara göre genişletilen melez yaklaşımın oldukça iyi sonuçlar ürettiği gözlemlenmiştir.
Özet (Çeviri)
In the literature, a very important problem in deep neural networks is the determination of hyper-parameters. There are many combinations that can be tried for the selection of hyperparameters to be used in data analysis. It is not possible to try all possible combinations, especially when it comes to big data. Although there are no general rules for making the selection specified in the literature, there are some suggested and used approaches. On the other hand, since ANN is a data-driven method, it is often not possible or applicable to use an approach, which is introduced for a specific data, for another data. In 2019, Aladag proposed a hybrid approach based on statistical and machine learning for the solution of the architectural selection problem in ANN. This issue is one of the most important problems of ANN. In his hybrid approach, the structure of the relationship between ANN architectures and predictive performance can be analyzed using a simple linear regression model. In this way, the determination of architecture is performed statistically and the relationship structure between the number of neurons used in the architecture and the prediction performance can be revealed. The approach proposed by Aladag provides two very important advantages. First of all, architecture selection can be done statistically and systematically according to the analyzed data. Secondly, the performance of many architectures can be statistically predicted even without using these architectures since the relationship structure model between the architectures and the prediction performance is obtained. In the thesis study,iv the hybrid approach proposed by Aladag 2019 for ANN architecture selection was used by applying both linear and nonlinear regression analysis to the hyper-parameter selection in deep neural networks. The hybrid approach was applied to the diabetes (diabetes.csv) data. As a result of the application, it has been observed that the hybrid approach gives very good results.
Benzer Tezler
- Fake news classification using machine learning and deep learning approaches
Makine öğrenimi ve derin öğrenme yaklaşımlarını kullanarak sahte haber sınıflandırması
SAJA ABDULHALEEM MAHMOOD AL-OBAIDI
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolGazi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ TUBA ÇAĞLIKANTAR
- Derin öğrenme ve büyük veri analitiği yöntemleriKullanarak Covid-19 yayılımının ileriye dönük tahmini
Forecasting the spread of covid-19 using deep learning and big data analytics methods
CYLAS KIGANDA
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolGazi ÜniversitesiBilgisayar Bilimleri Ana Bilim Dalı
PROF. DR. MUHAMMET ALİ AKCAYOL
- Design and deployment of deep learning based fuzzy logicsystems
Derin öğrenme tabanlı bulanık sistemlerin geliştirilmesi ve uygulanması
AYKUT BEKE
Doktora
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiKontrol ve Otomasyon Mühendisliği Ana Bilim Dalı
DOÇ. DR. TUFAN KUMBASAR
- Prediction of COVID 19 disease using chest X-ray images based on deep learning
Derin öğrenmeye dayalı göğüs röntgen görüntüleri kullanarak COVID 19 hastalığının tahmini
ISMAEL ABDULLAH MOHAMMED AL-RAWE
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolGazi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. ADEM TEKEREK
- Konvolüsyonel sinir ağlarında ağ eğitiminin iyileştirilmesi
Improving the network training in convolutional neural networks
KÜBRA UYAR
Doktora
Türkçe
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSelçuk ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. ŞAKİR TAŞDEMİR