Sequential nonlinear learning
Ardışık doğrusal olmayan öğrenme
- Tez No: 395492
- Danışmanlar: DOÇ. SÜLEYMAN SERDAR KOZAT
- Tez Türü: Yüksek Lisans
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2015
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 166
Özet
Ardışık doğrusal olmayan öğrenme problemini bireysel dizi usulünde çalışmaktayız ve herhangi bir istatistiksel varsayım gerekmeksizin sağlanması garanti olan sonuçlar sunmaktayız. Geleneksel doğrusal olmayan bağlanım yöntemlerinin yakınsama ve seyrek öğrenme problemblerini ele almaktayız ve içiçe ağaç yapıları kullanarak bu problemleri zarif bir biçimde çözen algoritmalar sunmaktayız. Bu doğrultuda, ikinci bölümde, sadece bağlanım fonksiyonlarını değil, aynı zamanda bütün ağaç yapısını uyarlayan, çifte üstel sayıdaki bölüntülerin en iyi doğrusal kombinasyonunun performansına ulaşan ve hesaplama karmaşıklığı ağaçtaki düğüm sayısıyla sadece polinomsal olarak artan algoritmalar önermekteyiz. Üçüncü bölümde, artımlı karar ağacı yapısı önermekteyiz ve bu modeli kullanarak değişken uzayını veriye dayalı bir biçimde bölen bir çevrimiçi bağlanım algoritması sunmaktayız. Önerilen algoritmanın ardışık ve asimptotik olarak en iyi iki kez türevlenebilir bağlanım fonksiyonunun performansına uzunluğu bilinmeyen ve gelişigüzel olan tüm veri dizileri için ulaştığını ispatlamaktayız. Önerilen algoritmanın hesaplama karmaşıklığı, bazı düzenlilik koşulları altında, veri uzunluğunda sadece logaritmiktir. Dördüncü bölümde, sıradüzensel yapılar üzerinden, hesaplama karmaşıklığı sıradüzen seviyesiyle doğrusal olarak artan bir çevrimiçi sonlu durumlu (SD) öngörme algoritması sunmaktayız. Önerilen algoritmanın sıradüzensel yapı üzerinde tanımlı olan tüm SD öngörücülerinin en iyi doğrusal kombinasyonunun performansına asimptotik olarak ulaştığını, belirlenimci çerçevede ve bazı durağan olmayan modeller için yatışkın durumda ortalama karesel hata çerçevesinde ispatlamaktayız. Beşinci bölümde, tek saklı katmanlı ileri beslemeli sinir ağlarını (TKİS) eğitmek için altbayır temelli dağıtılmış uç öğrenim makinesi algoritması önermekteyiz. Önerilen algoritmayı kullanarak her bir TKİS'in, en iyi merkezi toplu TKİS'in performansına asimptotik olarak güçlü belirlenimci çerçevede ulaştığını göstermekteyiz.
Özet (Çeviri)
We study sequential nonlinear learning in an individual sequence manner, where we provide results that are guaranteed to hold without any statistical assumptions. We address the convergence and undertraining issues of conventional nonlinear regression methods and introduce algorithms that elegantly mitigate these issues using nested tree structures. To this end, in the second chapter, we introduce algorithms that adapt not only their regression functions but also the complete tree structure while achieving the performance of the best linear mixture of a doubly exponential number of partitions, with a computational complexity only polynomial in the number of nodes of the tree. In the third chapter, we propose an incremental decision tree structure and using this model, we introduce an online regression algorithm that partitions the regressor space in a data driven manner. We prove that the proposed algorithm sequentially and asymptotically achieves the performance of the optimal twice differentiable regression function for any data sequence with an unknown and arbitrary length. The computational complexity of the introduced algorithm is only logarithmic in the data length under certain regularity conditions. In the fourth chapter, we construct an online finite state (FS) predictor over hierarchical structures, whose computational complexity is only linear in the hierarchy level. We prove that the introduced algorithm asymptotically achieves the performance of the best linear combination of all FS predictors defined over the hierarchical model in a deterministic manner and and in a mean square error sense in the steady-state for certain nonstationary models. In the fifth chapter, we introduce a distributed subgradient based extreme learning machine algorithm to train single hidden layer feedforward neural networks (SLFNs). We show that using the proposed algorithm, each of the individual SLFNs asymptotically achieves the performance of the optimal centralized batch SLFN in a strong deterministic sense.
Benzer Tezler
- Sequential regression techniques with second order methods
İkinci dereceden yöntemler ile ardışık bağlanım teknikleri
BURAK CEVAT CİVEK
Yüksek Lisans
İngilizce
2017
Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent ÜniversitesiElektrik-Elektronik ve Bilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. SÜLEYMAN SERDAR KOZAT
- Online nonlinear modeling for big data applications
Büyük veri uygulamaları için onlıne non lineer olmayan modelleme
FARHAN KHAN
Doktora
İngilizce
2017
Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
Assoc. Prof. Dr. SÜLEYMAN SERDAR KOZAT
- Betonarme perdelerin çevrimsel sönümlenen enerji kapasitesinin makine öğrenmesi yöntemleri ile incelenmesi
Investigation of energy dissipation capacity of RCc shear walls with machine learning methods
BERKAY TOPALOĞLU
Yüksek Lisans
Türkçe
2022
Deprem Mühendisliğiİstanbul Teknik ÜniversitesiDeprem Mühendisliği Ana Bilim Dalı
DOÇ. DR. ZEYNEP DEĞER
- Time and context sensitive optimization of machine learning models for sequential data prediction
Makine öğrenimi modellerinin sıralı veri tahmini için zaman ve bağlam duyarlı optimizasyonu
ARDA FAZLA
Yüksek Lisans
İngilizce
2024
Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
PROF. SÜLEYMAN SERDAR KOZAT
- End-to-end hybrid architectures for effective sequential data prediction
Etkili ardışık veri tahmini için uçtan uca melez mimariler
MUSTAFA ENES AYDIN
Yüksek Lisans
İngilizce
2023
Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent ÜniversitesiElektrik ve Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. SÜLEYMAN SERDAR KOZAT