Robust and efficient learning methods for time series processing under missing data
Eksik veri içeren zaman serilerinin işlenmesi için gürbüz ve etkin öğrenme yöntemleri
- Tez No: 982443
- Danışmanlar: PROF. DR. SÜLEYMAN SERDAR KOZAT
- Tez Türü: Doktora
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2025
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Elektrik ve Elektronik Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu tezde, sensör arızaları, iletişim gecikmeleri veya veri bozulması gibi nedenlerle eksik verilere ve değişken uzunluklara sahip olabilen çok değişkenli zaman serileri üzerinde doğrusal olmayan regresyon ve sınıflandırma problemleri ele alınmaktadır. Bu sorunu çözmek amacıyla, farklı eksik veri senaryolarına yönelik iki tamamlayıcı derin öğrenme mimarisi önerilmiştir. İlk olarak, her bir öznitelik için en uygun imputasyon (tamamlama) yöntemini dinamik olarak seçen, modüler ve uçtan uca eğitilebilir bir yapı olan FSI-LSTM mimarisi tanıtılmıştır. Bu seçim süreci, çok kollu bandit (multi-armed bandit) problemine dayalı olarak modellenmiş ve hem imputasyon fonksiyonları hem de hedef görev için kullanılan sinir ağı parametreleri, nihai görev başarımına katkılarına göre birlikte optimize edilmiştir. Önerilen mimari; basit istatistiksel yöntemlerden ileri seviye sinir ağı tabanlı modellere kadar geniş bir imputasyon modeli yelpazesini desteklemekte olup, LSTM ve GRU gibi farklı yineleyici sinir ağı yapılarıyla kolayca entegre edilebilmektedir. İkinci olarak, tüm girdilerin eksik olduğu zaman adımlarında imputasyonun yetersiz veya güvenilmez hale geldiği durumlar için, Hiyerarşik-LSTM mimarisi sunulmuştur. Bu mimari, herhangi bir istatistiksel varsayımda bulunmadan, gözlemlenen veri girişlerindeki“varlık desenlerini”(presence-patterns) doğrudan kullanmaktadır. Her biri belirli bir eksiklik desenine özel olarak eğitilen birden fazla LSTM tabanlı uzmanın çıktıları, her zaman adımında gözlemlenen desen temelinde adaptif olarak birleştirilerek nihai tahmin elde edilmektedir. Her iki önerilen yöntem, çeşitli eksiklik türleri ve oranları altında, birçok gerçek yaşam veri kümesi üzerinde kapsamlı olarak değerlendirilmiştir. Deneysel sonuçlar, önerilen yaklaşımların hem tahmin doğruluğu hem de eksik veriye karşı dayanıklılık açısından mevcut yöntemlere kıyasla anlamlı performans artışı sağladığını göstermektedir. Ayrıca, mimarilerin hesaplama karmaşıklık analizleri sunulmuş ve araştırmaların tekrarlanabilirliğini desteklemek amacıyla kaynak kodları paylaşılmıştır.
Özet (Çeviri)
We study nonlinear regression and classification problems on multivariate time series data that suffer from missing entries and variable sequence lengths, an issue that frequently arises in real-world applications due to sensor failures, communication delays, or data corruption. To address this challenge, we propose two complementary deep learning architectures tailored to different missingness scenarios. First, we introduce the FSI-LSTM architecture, a modular and end-to-end trainable framework that performs feature-specific imputation by dynamically selecting the most appropriate imputation model for each input dimension. The selection mechanism is formulated as a multi-armed bandit problem, enabling the framework to optimize imputation strategies and network parameters jointly based on their contribution to the final task performance. The proposed architecture supports a diverse set of imputation models—including both naive and neural techniques—and can be seamlessly integrated into various recurrent backbones such as the LSTM and GRU networks. Second, we present the Hierarchical-LSTM architecture for completely missing input patterns, where imputation becomes unreliable or infeasible. Instead of relying on statistical assumptions, this architecture exploits presence-patterns in the observed inputs by training a set of expert LSTM networks, each specialized for a specific configuration of missingness. The final prediction is obtained through adaptive expert selection based on the observed pattern at each time step. Both approaches are evaluated on multiple real-world datasets across diverse missingness regimes. Experimental results show that our methods significantly outperform state-of-the-art baselines in terms of both predictive accuracy and robustness. We also provide computational complexity analyses and share the source code to facilitate reproducibility and future research.
Benzer Tezler
- Derin öğrenme tabanlı yöntemlerle düşük ışıklı görüntü iyileştirme
Low light image enhancement with deep learning based methods
EMİN CİHANGİR US
Yüksek Lisans
Türkçe
2024
Mühendislik Bilimleriİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. ENDER METE EKŞİOĞLU
- Classification, prediction and state estimation algorithms for predictive maintenance
Kestirimci bakım için sınıflandırma, tahmin ve durum kestirimi algoritmaları
UĞUR YILDIRIM
Doktora
İngilizce
2026
Elektrik ve Elektronik MühendisliğiAdana Alparslan Türkeş Bilim ve Teknoloji ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. HÜSEYİN AFŞER
- Forecasting of produced output electricity in photovoltaic power plants
Foto-voltaik güç santrallarında elektrik üretim tahmini
TARANEH SAADATI
Doktora
İngilizce
2025
Enerjiİstanbul Teknik ÜniversitesiEnerji Bilimi ve Teknolojileri Ana Bilim Dalı
DOÇ. DR. BURAK BARUTÇU
- Geri dönüştürülebilir atıkların derin öğrenme modelleri ile sınıflandırılması: Veri seti boyutunun etkisi üzerine bir karşılaştırma
Classification of recyclable wastes with deep learning models: A comparison on the effect of dataset size
GAMZE AĞIRTAŞ
Yüksek Lisans
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ SERAP ÇAKAR KAMAN
- Ses olay tespit problemine derin öğrenme tabanlı çözümler
Utilizing footstep sound event detection by using cnn techniques for assuring property security
FURKAN YUSUF YAVUZ
Doktora
Türkçe
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. NEJAT YUMUŞAK