Sequential regression techniques with second order methods
İkinci dereceden yöntemler ile ardışık bağlanım teknikleri
- Tez No: 467632
- Danışmanlar: DOÇ. DR. SÜLEYMAN SERDAR KOZAT
- Tez Türü: Yüksek Lisans
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2017
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Elektrik-Elektronik ve Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 81
Özet
Ardışık bağlanım problemi, makine öğrenmesi ve sinyal işleme literatürlerinde geniş ölçüde incelenmektedir. Gerçek hayat veri dizilerinin altında yatan yapıyı başarılı bir şekilde modelleyebilmek adına birçok bağlanım yöntemi doğrusal olmayan yaklaşımlar kullanmaktadır. Bu bağlamda, birinci bölümde, gerçek hayat uygulamaları için son derece verimli ardışık doğrusal olmayan bağlanım algoritmaları sunulmaktadır. Elde edilen veriler depolama ihtiyacı duyulmadan çevrimiçi olarak işlenmekedir. Doğrusal olmayan modelleme için, bağlanım uzayının uyarlanır olarak parçalandığı, karar ağacı kavramına dayalı hiyerarşik parçalı doğrusal bir yaklaşım kullanılmaktadır. Literatürde ilk defa, oldukça etkili ikinci dereceden Newton-Raphson yöntemleri ile, bölge sınırları ve her bir bölgedeki doğrusal modelleröğrenilmektedir. Parçalı doğrusal modellerin kullanılması ile, yaygın olarak karşılaşılan aşırı uyma sorunundan kaçınılmakta ve var olan algoritmalara kıyasla önemli ölçüde performans elde edilmektedir. İkinci bölümde, gerçek hayat büyük veri uygulamaları için ardışık kestirim problemi incelenmektedir. İkinci dereceden Newton-Raphson yöntemleri, birinci dereceden algoritmalara kıyasla“en iyi”kestirici performansını asimptotik olarak çok daha hızlı bir şekilde elde etmektedir. Fakat, oldukça yüksek hesaplama yükü sebebiyle bu yöntemlerin kullanımı büyük veri uygulamalarında kısıtlanmıştır. Bu durumda, ikinci dereceden yöntemlerin üstün performansından faydalanmak amacıyla, hesaplama karmaşıklığının karesel seviyeden doğrusal seviyeye indirgendiği bir uygulama sunulmaktadır. Her iki bölümde elde edilen kazanımlar iyi bilinen kıyaslama ve gerçek hayat veri setleri üzerinden gösterilmekte ve istatistiksel varsayımlar olmaksızın garantilenen performans sonuçları elde edilmektedir.
Özet (Çeviri)
Sequential regression problem is one of the widely investigated topics in the machine learning and the signal processing literatures. In order to adequately model the underlying structure of the real life data sequences, many regression methods employ nonlinear modeling approaches. In this context, in the first chapter, we introduce highly efficient sequential nonlinear regression algorithms that are suitable for real life applications. We process the data in a truly online manner such that no storage is needed. For nonlinear modeling we use a hierarchical piecewise linear approach based on the notion of decision trees where the space of the regressor vectors is adaptively partitioned. As the first time in the literature, we learn both the piecewise linear partitioning of the regressor space as well as the linear models in each region using highly effective second order methods, i.e., Newton-Raphson Methods. Hence, we avoid the well-known over fi tting issues by using piecewise linear models and achieve substantial performance compared to the state of the art. In the second chapter, we investigate the problem of sequential prediction for real life big data applications. The second order Newton-Raphson methods asymptotically achieve the performance of the“best”possible predictor much faster compared to the fi rst order algorithms. However, their usage in real life big data applications is prohibited because of the extremely high computational needs. To this end, in order to enjoy the outstanding performance of the second order methods, we introduce a highly efficient implementation where the computational complexity is reduced from quadratic to linear scale. For both chapters, we demonstrate our gains over the well-known benchmark and real life data sets and provide performance results in an individual sequence manner guaranteed to hold without any statistical assumptions.
Benzer Tezler
- A hybrid prediction approach using multiple linear regression and decision tree
Çoklu doğrusal regresyon ve karar ağacı kullanarak hibrit tahmin yaklaşım
MARYAM ARIF AZEEZ AZEEZ
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar ve Bilişim Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ KAYHAN AYAR
- Purchase prediction and item prediction with RNN using different user-item interactions
Farklı kullanıcı-ürün etkileşim türlerini kullanarak özyineli sinir ağları ile ürün ve satış tahminlemesi
FULYA ÇELEBİ SARIOĞLU
Yüksek Lisans
İngilizce
2019
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ YUSUF YASLAN
- Müşteri odaklılığın satış performansına etkisi ve bir araştırma
Impact of customer orientation on sales performance and a research
SEZİN CANAY ACAR
- Talep tahmini için model topluluklarının kullanılması
Using ensembles of classifiers for demand forecasting
İREM İŞLEK
Yüksek Lisans
Türkçe
2015
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. ŞULE ÖĞÜDÜCÜ
- Çift gözlü kapların parçalı bastırıcı ile derin çekilmesinde en iyileme amaçlı bir algoritma geliştirilmesi
Development of an optimization algorithm in deep drawing of the double bowl cups with segmented blank holder
BORA ŞENER
Doktora
Türkçe
2017
Makine MühendisliğiYıldız Teknik ÜniversitesiMakine Mühendisliği Ana Bilim Dalı
PROF. DR. MEHMET EMİN YURCİ
YRD. DOÇ. DR. MUHARREM ERDEM BOĞOÇLU