Geri Dön

Maximum likelihood estimation of robust constrained gaussian mixture models

Gürbüz kısıtlı gauss karışım modellerinin enbüyük olabilirlik kestirimi

PDF İndir

  1. Tez No: 336864
  2. Yazar: ÇAĞLAR ARI
  3. Danışmanlar: PROF. DR. ORHAN ARIKAN
  4. Tez Türü: Doktora
  5. Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
  6. Anahtar Kelimeler: Gaussian mixture models, expectation maximization, convex optimization, duality, particle swarm optimization
  7. Yıl: 2013
  8. Dil: İngilizce
  9. Üniversite: İhsan Doğramacı Bilkent Üniversitesi
  10. Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 189

Özet

Gauss karsm modelleri ile daglm kestirimi yaparken modelin esnekligi ile veri kumesindeki istenmeyen/modellenmeyen veri noktalarna olan hassaslg arasnda temel bir ikilem durumu ortaya ckmaktadr. Uygun olmayan parametre secimive problemin icbukey olmamasndan dolay Gauss karsm modellerinin parametrelerinin kestirimi icin kullanlan beklenti enbuyukleme (EM) yontemi en iyi parametreleri bulamayabilmektedir. Bu tezde, beklenti enbuyukleme yontemi,icbukey esleklik (duality) teorisi ve rasgele arama yontemlerini temel alan kstl Gauss karsm modelleri icin yeni bir modelleme sistemi, uc farkl parametrizasyon ve ozgun yontemler onerilmektedir. Kstl Gauss karsm modelleri (CGMM) olarak adlandrdgmz modelleme sisteminde daglm kestirimi problemi hakknda sahip olunan bilgiler model parametreleri uzerine icbukey kstlar koyularak kullanlabilmetedir. Bu durum icin bilgi parametreleri ve kaynak parametreleri olarak ifade ettigimiz iki parametrizasyon dusunulmektedir. Parametrelerin kestirimi icin kullandgmz EM yonteminin E-adm ve M-admnda sra ile iki eniyileme problemi cozulmektedir. M-admndaki problemin bilgi parametreleri cinsinden icbukey eniyileme problemi oldugu gosterilmektedir. M-adm icin eslek (dual) problem olusturulup bu problemin ise kaynak parametreleri cinsinden icbukey eniyileme problemi oldugu gosterilmektedir. CGMM modelleme sistemi gurbuz daglm kestirimi ve bilesik nesne bulma problemlerine uygulanmaktadr. Gurbuz daglm kestirimi probleminde, az sayda veri noktas icin var olan istenilen/aykr nokta bilgileri bilgi parametreleri uzerine icbukey kstlar koyarak modellenmektedir. Bilesik nesne bulma probleminde ise basit nesneler hakknda sahip oldugumuz goreceli boyut, spektral daglm yaps ve goreceli yer bilgileri kaynak parametreleri uzerine icbukey kstlar koyarak modellenmektedir. Uygun parametre secimi yaplsa dahi Gauss karsm modelleri ile daglm kestirimi problemi icbukey eniyileme problemine denk gelmemektedir. Genelde rasgele arama, ozelde parcack surusu eniyileme (PSO) yontemlerinin etkili kullanlmasna olanak saglamak icin kovaryans matrislerinin ozdeger ayrstrmasna dayal ucuncu bir parametrizasyon onerilmektedir. Evrensel parametre kestirimi yapabilmek icin PSO yonteminin evrensel arama becerilerini EM yontemine ekledigimiz yeni bir yontem sunulmaktadr. Matematiksel analiz ve gosterimlere ek olarak sentetik ve gercek hayat veri kumeleri kullanlarak onerilen yontemlerinbasarl oldugu gosterilmektedir.Anahtar sozcukler: Gauss karsm modelleri, beklenti enbuyukleme, icbukey eniyileme, esleklik, parcack surusu eniyileme.

Özet (Çeviri)

Density estimation using Gaussian mixture models presents a fundamental trade o between the exibility of the model and its sensitivity to the unwanted/unmodeled data points in the data set. The expectation maximization (EM) algorithm used to estimate the parameters of Gaussian mixture models is prone to local optima due to nonconvexity of the problem and the improper selection of parameterization. We propose a novel modeling framework, three dierent parameterizations and novel algorithms for the constrained Gaussian mixture density estimation problem based on the expectation maximization algorithm, convex duality theory and the stochastic search algorithms. We propose a new modeling framework called Constrained Gaussian Mixture Models (CGMM) that incorporates prior information into the density estimation problem in the form of convex constraints on the model parameters. In this context, we consider two dierent parameterizations where the rst set of parameters are referred to as the information parameters and the second set of parameters are referred to as the source parameters. To estimate the parameters, we use the EM algorithm where we solve two optimization problems alternatingly in the E-step and the M-step. We show that the M-step corresponds to a convex optimization problem in theinformation parameters. We form a dual problem for the M-step and show that the dual problem corresponds to a convex optimization problem in the source parameters. We apply the CGMM framework to two dierent problems: Robust density estimation and compound object detection problems. In the robust density estimation problem, we incorporate the inlier/outlier information available for small number of data points as convex constraints on the parameters usingthe information parameters. In the compound object detection problem, we incorporate the relative size, spectral distribution structure and relative location relations of primitive objects as convex constraints on the parameters using the source parameters. Even with the propoper selection of the parameterization,density estimation problem for Gaussian mixture models is not jointly convex in both the E-step variables and the M-step variables. We propose a third parameterization based on eigenvalue decomposition of covariance matrices which is suitable for stochastic search algorithms in general and particle swarm optimization (PSO) algorithm in particular. We develop a new algorithm where global search skills of the PSO algorithm is incorporated into the EM algorithm to doglobal parameter estimation. In addition to the mathematical derivations, experimental results on synthetic and real-life data sets verifying the performance ofthe proposed algorithms are provided.

Benzer Tezler

  1. Tez No

    39126

    İki boyutlu sistemlerin yüksek mertebeden istatistik ile modellenmesi

    Modelling of two-dimensional systems using higher order statistics

    A. MAHİR ÖZDOĞAN

    Yüksek Lisans

    Türkçe

    Türkçe

    1993

    Elektrik ve Elektronik Mühendisliğiİstanbul Teknik Üniversitesi

    PROF.DR. AHMET H. KAYRAN

  2. Tez No

    309206

    Optimal stochastic approaches for signal detection and estimation under inequality constraints

    Eşitsizlik kısıtları altında işaret sezimi ve kestirimi için optimal stokastik yaklaşımlar

    BERKAN DÜLEK

    Doktora

    İngilizce

    İngilizce

    2012

    Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. AHMET ENİS ÇETİN

    YRD. DOÇ. DR. SİNAN GEZİCİ

  3. Tez No

    507534

    Ampirik olabilirlik yöntemi ile robust regresyon analizi

    Robust regression analysis with empirical likelihood

    ŞENAY ÖZDEMİR

    Doktora

    Türkçe

    Türkçe

    2018

    İstatistikAnkara Üniversitesi

    İstatistik Ana Bilim Dalı

    PROF. DR. OLÇAY ARSLAN

  4. Tez No

    739506

    Estimation theoretic analyses of location secrecy and ris-aided localization under hardware impairments

    Konum gizliliğinin ve donanımsal hatalar altında YYAY destekli konumlandırmanın kestirim kuramsal analizleri

    CÜNEYD ÖZTÜRK

    Doktora

    İngilizce

    İngilizce

    2022

    Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent Üniversitesi

    Elektrik ve Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. SİNAN GEZİCİ

  5. Tez No

    75589

    Demiryolu ağında trafik sayımlarından O-D matrisi tahmini

    Başlık çevirisi yok

    ZEYNEP AĞCI

    Yüksek Lisans

    Türkçe

    Türkçe

    1998

    İnşaat Mühendisliğiİstanbul Teknik Üniversitesi

    Ulaştırma Ana Bilim Dalı

    PROF. DR. HALUK GERÇEK

Geri Dön