Extreme learning machine based on L1 and L2 norms
L1 ve L2 norma dayalı aşırı makine öğrenmesi
- Tez No: 630647
- Danışmanlar: PROF. DR. MAHMUDE REVAN ÖZKALE ATICIOĞLU
- Tez Türü: Doktora
- Konular: İstatistik, Statistics
- Anahtar Kelimeler: Doğrusal regresyon modelleri, Makine öğrenmesi, Makine öğrenmesi yöntemleri, Ridge regresyon, Veri madenciliği, Yanlı regresyon tahmincileri, Yapay sinir ağları, Çoklu lineer regresyon analizi, Linear regression models, Machine learning, Machine learning methods, Ridge regression, Data mining, Biased regression estimators, Artificial neural networks, Multiple linear regression analysis
- Yıl: 2020
- Dil: İngilizce
- Üniversite: Çukurova Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: İstatistik Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bir ileri beslemeli sinir ağı olarak aşırı öğrenme algoritması hızlı öğrenme, basitlik ve farklı gerçek yaşam uygulamalarına yönelik yüksek derecede adapte edilebilirlik gibi üstün özellikleri nedeniyle çeşitli disiplinlerde yoğun olarak kullanılmıştır. Bu ilginin temel nedeni, aşırı öğrenme algoritmasının klasik sinir ağlarındaki iteratif parametre tahminini ortadan kaldırmış olmasıdır. Fakat aşırı öğrenme makinesi, yapısal risk minimizasyonunun bir sonucu olarak en iyi model büyüklüğünün belirlenmesi ile ilgili konularda olduğu gibi verinin tahmin edilmesi noktasında da istikrarsızlık ve zayıf genelleştirilebilirlik gibi dezavantajlara sahiptir. Bu çalışmada, ifade edilen eksikleri gidermek ve aşırı öğrenme algoritmasının performansını iyileştirmek amacıyla bazı istatistiksel tahmin ediciler yapay sinir ağları alanında ele alınmış ve çeşitli algoritmalar önerilmiştir. Çalışmanın ilk bölümünde, ridge tahmin ediciye dayanan aşırı öğrenme algoritmasına yönelik uygun yanlılık parametresinin belirlenmesi için farklı seçim kriterleri önerilmiştir. Daha sonra sırasıyla var olan ridge temelli aşırı öğrenme algoritmalarına alternatif olarak Liu, r-k sınıf tahmin edici, Liu ile Lasso regresyon yöntemlerinin birleşimine dayanan farklı öğrenme algoritmaları geliştirilmiştir. Tez kapsamında, R platformunda sıfırdan yazılan algoritmaların uygulamaları ç ok sayıda gerçek yaşam verisiyle test edilmiş ve performans karşılaştırması detaylı olarak sunulmuştur. Bu önerilen algoritmalar, aşırı öğrenme algoritması ve aşırı öğrenme algoritması tabanlı bazı gelişmiş algoritmalardan daha istikrarlı, genelleştirilebilir ve kompakt olan etkin büzülme ve/veya değişken seçimi performansı ortaya koymaktadır.
Özet (Çeviri)
Extreme learning machine (ELM) as a type of single-layer feedforward neural network (SLFN) has been widely used in various disciplines due to its superior properties like fast learning, simplicity, high adaptability for different real-life applications. The main reason of this interest is that ELM eliminates the iterative parameter tuning in the conventional neural networks. However, ELM has some drawbacks such as instability and poor generalizability at the point of estimating the data as well as issues related with the determination of the optimal model size as a consequence of structural risk minimization. In this study, in order to deal with these aforementioned drawbacks and improve the performance of ELM, some statistical estimators are discussed in the context of neural networks and various algorithms are proposed. In the first part of the study, we proposed different selection criteria for determinining appropriate tuning parameter for ELM algorithm based on ridge estimator. Later on, Liu estimator, r-k class estimator, a cascade of Liu and Lasso regression estimators are developed as alternatives to the existing ELM algorithms based on ridge estimator. In the scope of this study, the applications of algorithms written from scratch in the R platform are tested via many real-world data sets and the performance comparison are presented in details. These proposed algorithms present effective shrinkage and/or variables selection performance which is more stable, generalizable and compact than ELM and some advanced algorithms based on ELM.
Benzer Tezler
- Topics in optimization via deep neural networks
Derin sinir ağları üzerinden eniyileme konuları
ÖMER EKMEKCİOĞLU
Yüksek Lisans
İngilizce
2022
Endüstri ve Endüstri Mühendisliğiİhsan Doğramacı Bilkent ÜniversitesiEndüstri Mühendisliği Ana Bilim Dalı
PROF. DR. MUSTAFA ÇELEBİ PINAR
- Çok amaçlı karar verme metodları ve tekstil sanayiinde bir uygulama
Multiple criteria decision making methods and an application to the textile industry
H.EDA ÖZTÜRK
Yüksek Lisans
Türkçe
1992
Endüstri ve Endüstri Mühendisliğiİstanbul Teknik ÜniversitesiPROF. DR. RAMAZAN EVREN
- Farklı çikolataların reolojik, tekstürel, duyusal özelliklerinin ve diğer bazı kalite kriterlerinin yapay sinir ağları ile tahminlenmesi
Prediction of rheological, textural, sensory properties and some other quality criteria of different chocolates using artificial neural networks
NURCANAN AYDIN
Doktora
Türkçe
2026
Gıda Mühendisliğiİstanbul Teknik ÜniversitesiGıda Mühendisliği Ana Bilim Dalı
PROF. DR. FİLİZ ALTAY
- Image registration based on ensemble of extreme learning machine
Aşırı öğrenme makinası topluluğuna dayalı görüntü çakıştırma
MOHAMED GALALELDIN ALI ELOBAID
Yüksek Lisans
İngilizce
2019
Elektrik ve Elektronik MühendisliğiDokuz Eylül ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ YAVUZ ŞENOL
- Rüzgâr hızının kısa dönem tahmini için aşırı öğrenme makinesi ve dalgacık paket dönüşümü tabanlı melez bir metodun geliştirilmesi
Developing a hybrid method based on extreme learning machine and wavelet package transform for short-term wind speed forecasting
BİLAL UYSAL
Yüksek Lisans
Türkçe
2023
Elektrik ve Elektronik MühendisliğiGaziantep İslam Bilim ve Teknoloji ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. HAKAN AÇIKGÖZ
DR. ÖĞR. ÜYESİ CEYHUN YILDIZ