Hyperparameter optimization in reservoir computing for nonlinear dynamical system modeling
Doğrusal olmayan dinamik sistemlerin modellenmesinde rezervuar hesaplama için hiperparametre optimizasyonu
- Tez No: 1024788
- Danışmanlar: DOÇ. DR. ALTAN ONAT
- Tez Türü: Yüksek Lisans
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Metasezgisel algoritmalar, Metaheuristic algorithms
- Yıl: 2026
- Dil: İngilizce
- Üniversite: Eskişehir Teknik Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Devreler ve Sistemler Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu çalışmada, kaotik zaman serisi tahminine uygulanan Yankı Durum Ağlarının (YDA) tahmin performansı üzerinde hiperparametre optimizasyon stratejisinin etkisi incelenmiştir. Dokuz optimizasyon yöntemi karşılaştırmalı olarak değerlendirilmiştir: Rastgele Arama, Bayes Optimizasyonu, Genetik Algoritma, Parçacık Sürüsü Optimizasyonu, Diferansiyel Evrim, Benzetimli Tavlama, Uyarlanabilir Büyük Komşuluk Arama, Kovaryans Matris Uyarlama Evrim Stratejisi ve Değiştirilmiş Sade Parçacık Sürüsü Optimizasyonu (MBBPSO). Her yöntem, dört kaotik dinamik sistem üzerinde altı YDA hiperparametresini eş zamanlı olarak ayarlamak amacıyla uygulanmıştır: Lorenz çekici, Mackey–Glass gecikmeli diferansiyel denklemi, Duffing osilatörü ve kaotik bir DC-DC düşürücü dönüştürücü. Bu kıyaslama kümesi; özerk düzgün akışlar, sonsuz boyutlu gecikme sistemleri, dışarıdan uyarılan osilatörler ve parçalı-düzgün anahtarlamalı devreler gibi niteliksel olarak farklı dinamik rejimleri kapsayacak biçimde oluşturulmuştur. Toplam 360 bağımsız optimizasyon koşusu, 100 fonksiyon değerlendirmesinden oluşan sabit bir bütçe altında gerçekleştirilmiş; performans normalize karesel ortalama hata ve parametrik olmayan istatistiksel testler kullanılarak değerlendirilmiştir. Sonuçlar, optimize edici performansının güçlü biçimde sisteme bağlı olduğunu ortaya koymaktadır: Hiçbir yöntem dört sistemin tamamında en iyi doğruluğu elde edememiştir. Bayes Optimizasyonu Mackey–Glass ve Duffing sistemlerinde, Genetik Algoritma Lorenz sisteminde, MBBPSO ise düşürücü dönüştürücüde en iyi sonucu vermiştir. Sistemler genelinde toplam sıralamada MBBPSO en düşük ortalama Friedman sırasını elde etmiş; Benzetimli Tavlama tüm kıyaslama sistemlerinde tutarlı biçimde en kötü performansı sergilemiştir. Bu bulgular, rezervuar hesaplama uygulamalarında optimize edici seçimine yönelik pratik rehberlik sunmakta ve MBBPSO'nun YDA hiperparametre ayarlamasına ilk kez uygulandığı çalışmayı oluşturmaktadır.
Özet (Çeviri)
This study investigates the effect of hyperparameter optimization strategy on the predictive performance of Echo State Networks applied to chaotic time-series forecasting. Nine optimization methods are benchmarked: Random Search, Bayesian Optimization, Genetic Algorithm, Particle Swarm Optimization, Differential Evolution, Simulated Annealing, Adaptive Large Neighborhood Search, Covariance Matrix Adaptation Evolution Strategy, and the Modified Bare Bones Particle Swarm Optimization. Each method is applied to jointly tune six ESN hyperparameters across four benchmark chaotic dynamical systems: the Lorenz attractor, the Mackey–Glass delay-differential equation, the Duffing oscillator, and a chaotic DC–DC buck converter, spanning autonomous smooth flows, infinite-dimensional delay systems, externally forced oscillators, and piecewise-smooth switching circuits. A total of 360 independent optimization runs are conducted under a fixed budget of 100 function evaluations, with performance assessed using normalized root-mean-square error and non-parametric statistical tests. Results demonstrate that optimizer performance is strongly system-dependent: no single method achieves the best accuracy across all four systems, consistent with the no-free-lunch theorem. Bayesian Optimization performs best on the Mackey–Glass and Duffing systems, the Genetic Algorithm on the Lorenz system, and MBBPSO on the buck converter. In aggregate cross-system ranking, MBBPSO achieves the lowest mean Friedman rank among all nine optimizers, while Simulated Annealing consistently underperforms. These findings provide practical guidance for optimizer selection in reservoir computing applications and constitute the first evaluation of MBBPSO as a hyperparameter tuning strategy for Echo State Networks.
Benzer Tezler
- Yağmur suyu ızgaralarının hidrolik verimliliğinin makine öğrenmesi yöntemleriyle modellenmesi
Modeling of hydraulic efficiency of storm water grate inlets by machine learning methods
KAYHAN BAYHAN
Yüksek Lisans
Türkçe
2023
İnşaat Mühendisliğiİstanbul Teknik Üniversitesiİnşaat Mühendisliği Ana Bilim Dalı
PROF. DR. MEHMET ÖZGER
- Applications of ensemble learning paradigm and advanced hyperparameter optimization techniques in landslide susceptibility mapping
Heyelan duyarlılık haritalamasında topluluk öğrenme paradigması ve gelişmiş hiperparametre optimizasyonu algoritmalarının uygulamaları
ALİHAN TEKE
Yüksek Lisans
İngilizce
2022
Jeodezi ve FotogrametriGebze Teknik ÜniversitesiHarita Mühendisliği Ana Bilim Dalı
PROF. DR. TAŞKIN KAVZOĞLU
- Bagging ve Boosting tabanlı sınıflandırma yöntemlerinde hiperparametre optimizasyonu
Hyperparameter optimization in Bagging and Boosting based classification methods
BUĞRA AKOĞLU
- E-ticaret sektöründe derin öğrenme tabanlı duygu analizi: hiperparametre optimizasyonu ve performans karşılaştırması
Deep learning-based sentiment analysis in the E-commerce sector: hyperparameter optimization and performance comparison
MİRAÇ ÖZTÜRK
Yüksek Lisans
Türkçe
2026
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolÜsküdar ÜniversitesiYapay Zeka Ana Bilim Dalı
PROF. DR. SERHAT ÖZEKES
- Biyomedikal görüntülerde CNN hiperparametre optimizasyonu
CNN hyperparameter optimization in biomedical images
ABDURRAHMAN AVCI
Yüksek Lisans
Türkçe
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolNecmettin Erbakan ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ MURAT KARAKOYUN