Geri Dön

Büyük veride çapraz entropiye dayalı kayıp fonksiyonu yardımıyla değişken seçimi

Variable selection using a loss function based on cross entropy in big data

PDF İndir

  1. Tez No: 1011640
  2. Yazar: HINCAL TOPÇUOĞLU
  3. Danışmanlar: DOÇ. DR. ATIF AHMET EVREN
  4. Tez Türü: Doktora
  5. Konular: İstatistik, Statistics
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2026
  8. Dil: Türkçe
  9. Üniversite: Yıldız Teknik Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: İstatistik Ana Bilim Dalı
  12. Bilim Dalı: İstatistik Bilim Dalı
  13. Sayfa Sayısı: Belirtilmemiş.

Özet

Özellik seçimi, makine öğreniminde çok boyutluluk sorunu hafifletmek için kritik bir ön işleme adımıdır. Mevcut yöntemler tam bir denge sunmamaktadır: filtre yöntemleri hızlıdır ancak genellikle optimum değildir, sarmalayıcı yöntemler ise güçlüdür ancak hesaplama açısından çok maliyetlidir. Bu tez, sarmalayıcı yöntemlerin performansını daha basit modellerin hızında elde eden yeni, uçtan uca türevlenebilir bir çerçeve olan LAFS'yi (Öğrenilebilir Dikkat Mekanizması ile Özellik Seçimi) önermektedir. LAFS, tek bir ileri geçişte tüm özellikler için bağlam duyarlı önem puanlarını eş zamanlı olarak öğrenmek için bir sinirsel dikkat mekanizması kullanır. Seyrek ve gereksiz olmayan bir özellik alt kümesinin seçilmesini teşvik etmek için, standart sınıflandırma amacını dikkat ağırlıkları üzerinde bilgi kuramsal bir entropik düzenleyici ile birleştiren yeni bir hibrit kayıp fonksiyonu sunulmaktadır. Karşılaştırma veri kümeleri üzerinde kapsamlı ampirik doğrulama yoluyla, LAFS'nin karmaşık özellik etkileşimlerini başarıyla tanımladığını ve çoklu doğrusallığı ele aldığını, en gelişmiş yöntemlerle karşılaştırılabilir sonuçlar elde ettiğini göstermektedir. Çalışmamız, doğruluk-verimlilik sınırında yeni bir nokta belirleyerek, dikkat mekanizmasına dayalı mimarilerin özellik seçimi problemine güçlü ve uyumlu bir çözüm sağladığını ortaya koymaktadır.

Özet (Çeviri)

Feature selection is a critical preprocessing step for mitigating the curse of dimensionality in machine learning. Existing methods present a difficult trade-off: filter methods are fast but often suboptimal, while wrapper methods are powerful but computationally prohibitive. This thesis proposes LAFS (Learnable Attention for Feature Selection), a novel, end-to-end differentiable framework that achieves the performance of wrapper methods at the speed of simpler models. LAFS employs a neural attention mechanism to learn context-aware importance scores for all features simultaneously in a single forward pass. To encourage the selection of a sparse and non-redundant feature subset, we introduce a novel hybrid loss function that combines the standard classification objective with an information-theoretic entropic regularizer on the attention weights. Through comprehensive empirical validation on benchmark datasets, we demonstrate that LAFS successfully identifies complex feature interactions and handles multicollinearity, achieving results comparable to state-of-the-art methods. Our work establishes a new point on the accuracy-efficiency frontier, demonstrating that attention-based architectures provide a powerful and compatible solution to the feature selection problem.

Benzer Tezler

  1. Tez No

    748209

    Heart failure detection with deep networks based on electrocardiography and impedance cardiography signals

    Kalp yetersizliğinin elektrokardiyografi ve empedans kardiyografi işaretleri kullanılarak derin ağlara dayalı tespiti

    ŞEVKET GÜNDÜZ

    Yüksek Lisans

    İngilizce

    İngilizce

    2022

    KardiyolojiMarmara Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. CABİR VURAL

    PROF. DR. ALİ SERDAR FAK

  2. Tez No

    947140

    Fractional-order derivative based adaptive methods for control and optimization

    Kontrol ve optimizasyon için kesir mertebeli türev tabanlı adaptif yöntemler

    MERT CAN KURUCU

    Doktora

    İngilizce

    İngilizce

    2025

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Kontrol ve Otomasyon Mühendisliği Ana Bilim Dalı

    PROF. DR. MÜJDE GÜZELKAYA

    PROF. DR. İBRAHİM EKSİN

  3. Tez No

    694216

    Fully supervised and semi-supervised semantic segmentation of cardiac mr using deep learning

    Tam denetımlı ve yarı denetımlı semantık segmentasyon derın öğrenmeyı kullanan kardıyak mr'nın

    MAHYAR BOLHASSANI

    Yüksek Lisans

    İngilizce

    İngilizce

    2021

    Elektrik ve Elektronik Mühendisliğiİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    ASST. ASSOC. DR. İLKAY ÖKSÜZ

  4. Tez No

    682898

    Learning visual similarity for image retrieval with global descriptors and capsule networks

    Küresel tanımlayıcılar ve kapsül ağları ile görüntü erişimi için görsel benzerlikleri öğrenme

    DUYGU DURMUŞ

    Yüksek Lisans

    İngilizce

    İngilizce

    2021

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİhsan Doğramacı Bilkent Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. UĞUR GÜDÜKBAY

    PROF. DR. ÖZGÜR ULUSOY

  5. Tez No

    688973

    Deep feature transfer from deep learning models into machine learning algorithms to classify COVID-19 from chest X-ray images

    Göğüs röntgeni görüntülerinden COVID-19 sınıflandırması yapmak amacıyla derin öğrenme modellerinden makine öğrenmesi algoritmalarına derin öznitelik aktarımı

    OZAN GÜLDALİ

    Yüksek Lisans

    İngilizce

    İngilizce

    2021

    Matematikİstanbul Teknik Üniversitesi

    Matematik Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ GÜL İNAN

Geri Dön