Fast high-dimensional temporal point processes with applications
Hızlı yüksek boyutlu zamansal nokta süreçleri ve uygulamaları
- Tez No: 662864
- Danışmanlar: PROF. DR. ALİ TAYLAN CEMGİL
- Tez Türü: Doktora
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, İstatistik, Computer Engineering and Computer Science and Control, Statistics
- Anahtar Kelimeler: Makine öğrenmesi, Çok boyutlu tahmin modeli, Çok değişkenli zaman serileri, Machine learning, Multidimensional forecasting methods, Multivariate time series
- Yıl: 2020
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Büyük ölçekli sürekli-zamanlı ayrık olay akışları deprembilim, sinirbilim, finans, davranış bilimi ve birçok diğer bilim ve mühendislik disiplininde sıkça odak konusudur. Bu çalışmada, bu tür verilerden ölçeklenebilir bir şekilde-yüksek sayıda olay verisi ve olay türü altında-öğrenme sağlayacak yeni bir dizi model ve algoritma incelenmektedir. Öncelikle yüksek-boyutlu çok-değişkenli Hawkes sürecinde düşük-ranklı parametre kestirimi için iki algoritma önerilmiştir. İlk olarak, negatif olmayan matris ayrışımı ile yeni bir bağlantı üzerine kurulu bir rassal eğim iniş algoritması verilmiştir. İkinci olarak, moment-tabanlı bir yaklaşımla kestirim probleminin tek bir düşük ranklı ayrışıma indirgenebileceği gösterilmektedir. İki yaklaşımda da verinin birkaç kez taranması yeterlidir, yaygınca bilinen matris ayrışımları alt yordam olarak kullanılmaktadır, ve hızlı ve yüksek başarımlı parametre kestirimi sağlanmaktadır. Ayrıca, öz-uyarım ve türler arası uyarım davranışlarını farklı zaman ölçeklerinde tarif eden, global-yerel zamansal nokta süreçleri (ZNS) adıyla yeni bir ZNS sınıfı tanımlanmıştır. Bu sınıfın bir örneği, FastPoint, türler arası uyarım örüntülerini bir derin özyineli sinirsel ağ ile kestirerek eşdeğerlerinden yüzlerce kat daha hızlı öğrenme sağlamaktadır. Global-yerel ZNS modelleri, sıralı Monte Karlo yöntemleri ile çok daha hızlı örnek çekilmesini sağlamakta ve bilinen nokta süreci benzetimi yöntemlerinin tümünden daha verimli sonuç üretmektedir. Son olarak, ZNS modellerinin uygulama alanları, seyrek talep tahmini problemine yenileme süreçleri ve derin öğrenme yöntemlerinin uygulanmasıyla genişletilmiştir. Çalışmamız, yüksek boyutlu ZNS modellerinin yaygın kullanımının önündeki iki büyük engeli-öğrenme ve çıkarımı ölçeklemenin zorluğunu-gidermeyi amaçlamaktadır.
Özet (Çeviri)
Large sets of continuous-time discrete event streams are often in the focus of seismology, neuroscience, finance, behavioral science among other scientific and engineering disciplines. In this work, we explore a set of novel models and algorithms to learn from such data at scale, in the presence of a large number of events and event types. First, we develop two algorithms for estimating high-dimensional multivariate Hawkes processes with a low-rank parameterization. The first approach leverages a novel connection to nonnegative matrix factorization, which we use to propose a stochastic gradient descent algorithm. We then demonstrate, via a moment-based approach, that we can reduce the parameter estimation problem to a single low-rank approximation. Notably, both approaches require only a few scans of the data, feature well-known matrix decompositions as subroutines, and yield fast parameter estimation. We also propose global-local temporal point processes (TPP), multidimensional TPP models that model self- and mutual-excitation patterns at different scales of time. One such model, FastPoint, relies on deep recurrent neural networks to approximate the mutual excitation pattern, and results in several orders of magnitude faster learning. Global-local TPPs also allow for substantially faster sequential Monte Carlo sampling, greatly accelerating the current state of the art in simulating temporal point patterns. Finally, we propose a novel application area for TPPs, applying ideas from renewal processes and deep learning to intermittent demand forecasting. Our contributions aim to remove both of the main challenges---scalable learning and inference---facing the adoption of high-dimensional TPP models.
Benzer Tezler
- Subjective intensity and pleasantness in taste
Tatta öznel yoğunluk ve hoşluk' konulu
MARİA GERALDİNE VELDHUİZEN
- Mekânsal dijital ikizlere yönelik yapı modeli üretiminde prosedürel modelleme yönteminin tasarımı ve geliştirilmesi
Design and development of procedural modeling method in generating structure models for spatial digital twins
GÜÇLÜ ŞENYURDUSEV
Doktora
Türkçe
2024
Bilim ve Teknolojiİstanbul Teknik ÜniversitesiGeomatik Mühendisliği Ana Bilim Dalı
DOÇ. DR. AHMET ÖZGÜR DOĞRU
- Akaryakıtla çalışan endüstriyel tav fırınlarında yanma, sıcaklık ve basıncın optimum kontrolu
Optimum control of combustion temperature and pressure in industrial tempering furnaces working with fuel-oil
MEHMET EROĞLU
Yüksek Lisans
Türkçe
1987
Makine MühendisliğiGazi ÜniversitesiMakine Mühendisliği Ana Bilim Dalı
PROF. DR. YÜCEL ERCAN
- Liorhyssus hyalinus (F.) (heteropterar haopalidae)'ta anten rejenerasyon kapasitesinin saptanması üzerinde araştırmalar
Investigations on the Antennal regenerative capasity of Lrorhyssus hyalinus (F.) (heteroptera: rhappalidea)
SACİDE BÜLBÜL
- Avrupa Topluluğu'nun bürokratik yapısı
Başlık çevirisi yok
GÜNİZ ODYAKMAZ
Yüksek Lisans
Türkçe
1989
Uluslararası İlişkilerİstanbul ÜniversitesiUluslararası İlişkiler Ana Bilim Dalı
PROF. DR. BENER KARAKARTAL