Geri Dön

Sequential nonlinear learning

Ardışık doğrusal olmayan öğrenme

  1. Tez No: 395492
  2. Yazar: NURİ DENİZCAN VANLI
  3. Danışmanlar: DOÇ. SÜLEYMAN SERDAR KOZAT
  4. Tez Türü: Yüksek Lisans
  5. Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2015
  8. Dil: İngilizce
  9. Üniversite: İhsan Doğramacı Bilkent Üniversitesi
  10. Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 166

Özet

Ardışık doğrusal olmayan öğrenme problemini bireysel dizi usulünde çalışmaktayız ve herhangi bir istatistiksel varsayım gerekmeksizin sağlanması garanti olan sonuçlar sunmaktayız. Geleneksel doğrusal olmayan bağlanım yöntemlerinin yakınsama ve seyrek öğrenme problemblerini ele almaktayız ve içiçe ağaç yapıları kullanarak bu problemleri zarif bir biçimde çözen algoritmalar sunmaktayız. Bu doğrultuda, ikinci bölümde, sadece bağlanım fonksiyonlarını değil, aynı zamanda bütün ağaç yapısını uyarlayan, çifte üstel sayıdaki bölüntülerin en iyi doğrusal kombinasyonunun performansına ulaşan ve hesaplama karmaşıklığı ağaçtaki düğüm sayısıyla sadece polinomsal olarak artan algoritmalar önermekteyiz. Üçüncü bölümde, artımlı karar ağacı yapısı önermekteyiz ve bu modeli kullanarak değişken uzayını veriye dayalı bir biçimde bölen bir çevrimiçi bağlanım algoritması sunmaktayız. Önerilen algoritmanın ardışık ve asimptotik olarak en iyi iki kez türevlenebilir bağlanım fonksiyonunun performansına uzunluğu bilinmeyen ve gelişigüzel olan tüm veri dizileri için ulaştığını ispatlamaktayız. Önerilen algoritmanın hesaplama karmaşıklığı, bazı düzenlilik koşulları altında, veri uzunluğunda sadece logaritmiktir. Dördüncü bölümde, sıradüzensel yapılar üzerinden, hesaplama karmaşıklığı sıradüzen seviyesiyle doğrusal olarak artan bir çevrimiçi sonlu durumlu (SD) öngörme algoritması sunmaktayız. Önerilen algoritmanın sıradüzensel yapı üzerinde tanımlı olan tüm SD öngörücülerinin en iyi doğrusal kombinasyonunun performansına asimptotik olarak ulaştığını, belirlenimci çerçevede ve bazı durağan olmayan modeller için yatışkın durumda ortalama karesel hata çerçevesinde ispatlamaktayız. Beşinci bölümde, tek saklı katmanlı ileri beslemeli sinir ağlarını (TKİS) eğitmek için altbayır temelli dağıtılmış uç öğrenim makinesi algoritması önermekteyiz. Önerilen algoritmayı kullanarak her bir TKİS'in, en iyi merkezi toplu TKİS'in performansına asimptotik olarak güçlü belirlenimci çerçevede ulaştığını göstermekteyiz.

Özet (Çeviri)

We study sequential nonlinear learning in an individual sequence manner, where we provide results that are guaranteed to hold without any statistical assumptions. We address the convergence and undertraining issues of conventional nonlinear regression methods and introduce algorithms that elegantly mitigate these issues using nested tree structures. To this end, in the second chapter, we introduce algorithms that adapt not only their regression functions but also the complete tree structure while achieving the performance of the best linear mixture of a doubly exponential number of partitions, with a computational complexity only polynomial in the number of nodes of the tree. In the third chapter, we propose an incremental decision tree structure and using this model, we introduce an online regression algorithm that partitions the regressor space in a data driven manner. We prove that the proposed algorithm sequentially and asymptotically achieves the performance of the optimal twice differentiable regression function for any data sequence with an unknown and arbitrary length. The computational complexity of the introduced algorithm is only logarithmic in the data length under certain regularity conditions. In the fourth chapter, we construct an online finite state (FS) predictor over hierarchical structures, whose computational complexity is only linear in the hierarchy level. We prove that the introduced algorithm asymptotically achieves the performance of the best linear combination of all FS predictors defined over the hierarchical model in a deterministic manner and and in a mean square error sense in the steady-state for certain nonstationary models. In the fifth chapter, we introduce a distributed subgradient based extreme learning machine algorithm to train single hidden layer feedforward neural networks (SLFNs). We show that using the proposed algorithm, each of the individual SLFNs asymptotically achieves the performance of the optimal centralized batch SLFN in a strong deterministic sense.

Benzer Tezler

  1. Sequential regression techniques with second order methods

    İkinci dereceden yöntemler ile ardışık bağlanım teknikleri

    BURAK CEVAT CİVEK

    Yüksek Lisans

    İngilizce

    İngilizce

    2017

    Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent Üniversitesi

    Elektrik-Elektronik ve Bilgisayar Mühendisliği Ana Bilim Dalı

    DOÇ. DR. SÜLEYMAN SERDAR KOZAT

  2. Online nonlinear modeling for big data applications

    Büyük veri uygulamaları için onlıne non lineer olmayan modelleme

    FARHAN KHAN

    Doktora

    İngilizce

    İngilizce

    2017

    Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    Assoc. Prof. Dr. SÜLEYMAN SERDAR KOZAT

  3. Betonarme perdelerin çevrimsel sönümlenen enerji kapasitesinin makine öğrenmesi yöntemleri ile incelenmesi

    Investigation of energy dissipation capacity of RCc shear walls with machine learning methods

    BERKAY TOPALOĞLU

    Yüksek Lisans

    Türkçe

    Türkçe

    2022

    Deprem Mühendisliğiİstanbul Teknik Üniversitesi

    Deprem Mühendisliği Ana Bilim Dalı

    DOÇ. DR. ZEYNEP DEĞER

  4. Time and context sensitive optimization of machine learning models for sequential data prediction

    Makine öğrenimi modellerinin sıralı veri tahmini için zaman ve bağlam duyarlı optimizasyonu

    ARDA FAZLA

    Yüksek Lisans

    İngilizce

    İngilizce

    2024

    Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    PROF. SÜLEYMAN SERDAR KOZAT

  5. End-to-end hybrid architectures for effective sequential data prediction

    Etkili ardışık veri tahmini için uçtan uca melez mimariler

    MUSTAFA ENES AYDIN

    Yüksek Lisans

    İngilizce

    İngilizce

    2023

    Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent Üniversitesi

    Elektrik ve Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. SÜLEYMAN SERDAR KOZAT