Robust and efficient learning methods for time series processing under missing data
Eksik veri içeren zaman serilerinin işlenmesi için gürbüz ve etkin öğrenme yöntemleri
- Tez No: 982443
- Danışmanlar: PROF. DR. SÜLEYMAN SERDAR KOZAT
- Tez Türü: Doktora
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2025
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Elektrik ve Elektronik Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu tezde, sensör arızaları, iletişim gecikmeleri veya veri bozulması gibi nedenlerle eksik verilere ve değişken uzunluklara sahip olabilen çok değişkenli zaman serileri üzerinde doğrusal olmayan regresyon ve sınıflandırma problemleri ele alınmaktadır. Bu sorunu çözmek amacıyla, farklı eksik veri senaryolarına yönelik iki tamamlayıcı derin öğrenme mimarisi önerilmiştir. İlk olarak, her bir öznitelik için en uygun imputasyon (tamamlama) yöntemini dinamik olarak seçen, modüler ve uçtan uca eğitilebilir bir yapı olan FSI-LSTM mimarisi tanıtılmıştır. Bu seçim süreci, çok kollu bandit (multi-armed bandit) problemine dayalı olarak modellenmiş ve hem imputasyon fonksiyonları hem de hedef görev için kullanılan sinir ağı parametreleri, nihai görev başarımına katkılarına göre birlikte optimize edilmiştir. Önerilen mimari; basit istatistiksel yöntemlerden ileri seviye sinir ağı tabanlı modellere kadar geniş bir imputasyon modeli yelpazesini desteklemekte olup, LSTM ve GRU gibi farklı yineleyici sinir ağı yapılarıyla kolayca entegre edilebilmektedir. İkinci olarak, tüm girdilerin eksik olduğu zaman adımlarında imputasyonun yetersiz veya güvenilmez hale geldiği durumlar için, Hiyerarşik-LSTM mimarisi sunulmuştur. Bu mimari, herhangi bir istatistiksel varsayımda bulunmadan, gözlemlenen veri girişlerindeki“varlık desenlerini”(presence-patterns) doğrudan kullanmaktadır. Her biri belirli bir eksiklik desenine özel olarak eğitilen birden fazla LSTM tabanlı uzmanın çıktıları, her zaman adımında gözlemlenen desen temelinde adaptif olarak birleştirilerek nihai tahmin elde edilmektedir. Her iki önerilen yöntem, çeşitli eksiklik türleri ve oranları altında, birçok gerçek yaşam veri kümesi üzerinde kapsamlı olarak değerlendirilmiştir. Deneysel sonuçlar, önerilen yaklaşımların hem tahmin doğruluğu hem de eksik veriye karşı dayanıklılık açısından mevcut yöntemlere kıyasla anlamlı performans artışı sağladığını göstermektedir. Ayrıca, mimarilerin hesaplama karmaşıklık analizleri sunulmuş ve araştırmaların tekrarlanabilirliğini desteklemek amacıyla kaynak kodları paylaşılmıştır.
Özet (Çeviri)
We study nonlinear regression and classification problems on multivariate time series data that suffer from missing entries and variable sequence lengths, an issue that frequently arises in real-world applications due to sensor failures, communication delays, or data corruption. To address this challenge, we propose two complementary deep learning architectures tailored to different missingness scenarios. First, we introduce the FSI-LSTM architecture, a modular and end-to-end trainable framework that performs feature-specific imputation by dynamically selecting the most appropriate imputation model for each input dimension. The selection mechanism is formulated as a multi-armed bandit problem, enabling the framework to optimize imputation strategies and network parameters jointly based on their contribution to the final task performance. The proposed architecture supports a diverse set of imputation models—including both naive and neural techniques—and can be seamlessly integrated into various recurrent backbones such as the LSTM and GRU networks. Second, we present the Hierarchical-LSTM architecture for completely missing input patterns, where imputation becomes unreliable or infeasible. Instead of relying on statistical assumptions, this architecture exploits presence-patterns in the observed inputs by training a set of expert LSTM networks, each specialized for a specific configuration of missingness. The final prediction is obtained through adaptive expert selection based on the observed pattern at each time step. Both approaches are evaluated on multiple real-world datasets across diverse missingness regimes. Experimental results show that our methods significantly outperform state-of-the-art baselines in terms of both predictive accuracy and robustness. We also provide computational complexity analyses and share the source code to facilitate reproducibility and future research.
Benzer Tezler
- Increasing robustness in appearance-based spatial cognition
Görünüşe dayalı uzamsal anlamlandırmanın dayanıklı hale getirilmesi
BERKAN HÖKE
Yüksek Lisans
İngilizce
2019
Boğaziçi ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
Yükleniyor...
- A novel artificial intelligence based energy management system for microgrids
Mikro şebekeler için yapay zeka temelli yeni bir enerji yönetim sistemi
NECATİ AKSOY
- Derin öğrenme tabanlı yöntemlerle düşük ışıklı görüntü iyileştirme
Low light image enhancement with deep learning based methods
EMİN CİHANGİR US
Yüksek Lisans
Türkçe
2024
İstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
Yükleniyor...
- Forecasting of produced output electricity in photovoltaic power plants
Foto-voltaik güç santrallarında elektrik üretim tahmini
TARANEH SAADATI
Doktora
İngilizce
2025
İstanbul Teknik ÜniversitesiEnerji Bilimi ve Teknolojileri Ana Bilim Dalı
Yükleniyor...
- Comparison of MPC based motion control algorithms on mujoco hybrid platform
Mujoco hibrit platformunda MPC tabanlı hareket kontrol algoritmalarının karşılaştırılması
AYŞE KIZILDEMİR KILIÇ
Yüksek Lisans
İngilizce
2025
İstanbul Teknik ÜniversitesiMekatronik Mühendisliği Ana Bilim Dalı
Yükleniyor...
- Kanal tabanlı özellik temsili ve derin öğrenmeye dayalı uykululuk sınıflandırması
Drowsiness classification based on channel-based feature representation and deep learning
MUSTAFA RIFAT ÇELİK
Yüksek Lisans
Türkçe
2025
İstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
Yükleniyor...