Büyük veride çapraz entropiye dayalı kayıp fonksiyonu yardımıyla değişken seçimi
Variable selection using a loss function based on cross entropy in big data
- Tez No: 1011640
- Danışmanlar: DOÇ. DR. ATIF AHMET EVREN
- Tez Türü: Doktora
- Konular: İstatistik, Statistics
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2026
- Dil: Türkçe
- Üniversite: Yıldız Teknik Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: İstatistik Ana Bilim Dalı
- Bilim Dalı: İstatistik Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Özellik seçimi, makine öğreniminde çok boyutluluk sorunu hafifletmek için kritik bir ön işleme adımıdır. Mevcut yöntemler tam bir denge sunmamaktadır: filtre yöntemleri hızlıdır ancak genellikle optimum değildir, sarmalayıcı yöntemler ise güçlüdür ancak hesaplama açısından çok maliyetlidir. Bu tez, sarmalayıcı yöntemlerin performansını daha basit modellerin hızında elde eden yeni, uçtan uca türevlenebilir bir çerçeve olan LAFS'yi (Öğrenilebilir Dikkat Mekanizması ile Özellik Seçimi) önermektedir. LAFS, tek bir ileri geçişte tüm özellikler için bağlam duyarlı önem puanlarını eş zamanlı olarak öğrenmek için bir sinirsel dikkat mekanizması kullanır. Seyrek ve gereksiz olmayan bir özellik alt kümesinin seçilmesini teşvik etmek için, standart sınıflandırma amacını dikkat ağırlıkları üzerinde bilgi kuramsal bir entropik düzenleyici ile birleştiren yeni bir hibrit kayıp fonksiyonu sunulmaktadır. Karşılaştırma veri kümeleri üzerinde kapsamlı ampirik doğrulama yoluyla, LAFS'nin karmaşık özellik etkileşimlerini başarıyla tanımladığını ve çoklu doğrusallığı ele aldığını, en gelişmiş yöntemlerle karşılaştırılabilir sonuçlar elde ettiğini göstermektedir. Çalışmamız, doğruluk-verimlilik sınırında yeni bir nokta belirleyerek, dikkat mekanizmasına dayalı mimarilerin özellik seçimi problemine güçlü ve uyumlu bir çözüm sağladığını ortaya koymaktadır.
Özet (Çeviri)
Feature selection is a critical preprocessing step for mitigating the curse of dimensionality in machine learning. Existing methods present a difficult trade-off: filter methods are fast but often suboptimal, while wrapper methods are powerful but computationally prohibitive. This thesis proposes LAFS (Learnable Attention for Feature Selection), a novel, end-to-end differentiable framework that achieves the performance of wrapper methods at the speed of simpler models. LAFS employs a neural attention mechanism to learn context-aware importance scores for all features simultaneously in a single forward pass. To encourage the selection of a sparse and non-redundant feature subset, we introduce a novel hybrid loss function that combines the standard classification objective with an information-theoretic entropic regularizer on the attention weights. Through comprehensive empirical validation on benchmark datasets, we demonstrate that LAFS successfully identifies complex feature interactions and handles multicollinearity, achieving results comparable to state-of-the-art methods. Our work establishes a new point on the accuracy-efficiency frontier, demonstrating that attention-based architectures provide a powerful and compatible solution to the feature selection problem.
Benzer Tezler
- Bazı sert çekirdekli meyve türlerinde döllenme biyolojisi üzerinde yöntem çalışmaları
Başlık çevirisi yok
ATBİMOĞLU ADALET
- Kuyruk modelleri ve analizi üzerine bir uygulama
Başlık çevirisi yok
DİDEM ÖZPULAT
Yüksek Lisans
Türkçe
1985
Ege ÜniversitesiBilgisayar Bilimleri ve Mühendisliği Ana Bilim Dalı
Yükleniyor...
- İzmir'de Mustafa Kemal Bulvarı'nın peyzaj mimarlığı açısından etüdü ve peyzaj projesi
Başlık çevirisi yok
ENGİN ALPARSLAN
- Adolesan intihar girişimlerinin psiko-sosyal nedenleriyle ilgili araştırma
Başlık çevirisi yok
NAZMİYE YÜKSEL
- Pre-eklampsi ve eklampsi vakalarında immünoglobülin düzeylerinin değerlendirilmesi (Klinik ve immünobiolojik araştırma)
Examination des valeurs d'immunoglobulines en cas de la toxemie gravidique
M. MURAT SEMİZ