Metin gömmeleri için boyut azaltma ve karşıt öğrenme tabanlı özgün kümeleme yöntemi
A unique clustering method based on dimension reduction and contrastive-learning for text embeddings
- Tez No: 995124
- Danışmanlar: DOÇ. DR. YASİN ORTAKCI
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2026
- Dil: Türkçe
- Üniversite: Karabük Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Bilgisayar Bilimleri ve Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Yapay Zeka Mühendisliği Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu tezde, tek eğitim döngülü denetimli karşılaştırmalı ince ayar stratejisiyle kontrollü temsil iyileştirmesine odaklanan, bütüncül bir SBERT tabanlı kümeleme çerçevesi olan bütüncül bir metin kümeleme yöntemi sunulmaktadır. Temel varsayım, yapı-farkındalıklı sözde etiketler ile yönlendirilen minimal ve dikkatle sınırlandırılmış bir ince ayar adımının, ön eğitim sırasında öğrenilen anlamsal özellikleri bozmadan metin gömme uzaylarının geometrisini anlamlı biçimde yeniden şekillendirebileceğidir. Metinler ilk olarak önceden eğitilmiş bir SBERT modeli kullanılarak yüksek boyutlu anlamsal temsillere dönüştürülür. Ardından bu gömme uzayının içsel boyutu, maksimum olabilirlik temelli bir yaklaşımla tahmin edilir ve bu tahmin, UMAP aracılığıyla yapılacak manifold izdüşümü için hedef boyutluluğu belirlemek amacıyla kullanılır. Bu indirgenmiş temsiller üzerinde gerçekleştirilen kümeleme işlemi, zayıf yapısal sinyaller olarak görev yapan sahte etiketler üretir. Bu sinyaller, model v uyarlamasının kapsamını açık biçimde sınırlamak amacıyla SBERT kodlayıcısını tek bir eğitim döngüsü boyunca denetimli karşılaştırmalı öğrenme hedefiyle ince ayara tabi tutmak için kullanılır. Bu iyileştirme adımının ardından, metinler güncellenmiş kodlayıcıyla sayısal vektörlere dönüştürülür ve nihai kümeleme öncesinde aynı içsel boyutluluk ölçüsünde boyut azaltımına uğratılır. Birden fazla metin veri kümesi üzerinde elde edilen deneysel sonuçların kıyaslanması, tek eğitim döngülü karşılaştırmalı ince ayarın küme ayrışmasını ve genel kümeleme performansını arttırmayı başardığını göstermektedir. Bulgular, hafif ve geometri-farkındalıklı bir iyileştirme aşamasının, temsil uzaylarını gizli küme yapısıyla etkili biçimde hizalayabildiğini ortaya koymakta ve denetimsiz metin kümelemede kontrollü ince ayarın etkisini vurgulamaktadır.
Özet (Çeviri)
In this thesis, a holistic SBERT-based clustering framework Single-E-Clust (Single-epoch Contrastive Loss based Clustering) is presented with a focus on controlled representation refinement through a single-epoch supervised contrastive fine-tuning strategy. The core premise is that a minimal and carefully constrained fine-tuning step can meaningfully reshape the geometry of text embedding spaces when guided by structure-aware pseudo-labels, without compromising the semantic properties learned during pre-training. Texts are first encoded using a pre-trained SBERT model to obtain high-dimensional semantic representations. The intrinsic dimension of this embedding space is then estimated using a maximum likelihood–based approach, and this estimate is used to determine the target dimensionality for manifold projection via UMAP. Clustering performed on this reduced representation yields pseudo-labels, which serve as weak structural signals. These signals are then used to fine-tune the SBERT encoder vii with a supervised contrastive learning objective for a single epoch, explicitly limiting the extent of model adaptation. After this refinement step, texts are re-embedded using the updated encoder and projected again to the same intrinsic dimensionality before final clustering. Experimental results on multiple comparative text datasets demonstrate that a single-epoch contrastive fine-tuning step improves cluster separability and overall clustering performance. The findings demonstrate that a lightweight, geometry-aware refinement stage can effectively align representation spaces with latent cluster structure, highlighting the impact of controlled fine-tuning in unsupervised text clustering.
Benzer Tezler
- Contribution a la recherche d'un cadre juridique pour un droit international de laconcurrence plus efficace
Daha etkin bir uluslararası rekabet için hukuki çerçeve arayışı
ALİ CENK KESKİN
Doktora
Fransızca
2009
HukukGalatasaray ÜniversitesiKamu Hukuku Ana Bilim Dalı
PROF. DR. JEAN MARC SOREL
PROF. DR. HALİL ERCÜMENT ERDEM
- Yeni milliyetçi ideoloji olarak ulusalcılık: İzmir örneği üzerinden ulusalcıların duygularının analizi
Ulusalcilik as a new nationalist ideology: Analysis of the emotions of ulusalcis through the case of Izmir
GÜNCE SABAH ERYILMAZ ERDAMAR
Doktora
Türkçe
2024
Siyasal BilimlerGalatasaray ÜniversitesiSiyaset Bilimi Ana Bilim Dalı
PROF. DR. HÜSEYİN ÖZGÜR ADADAĞ
- The relation between vocabulary learning strategies and foreign language reading anxiety among Turkish EFL learners
Türkiye'de İngilizceyi yabancı dil olarak öğrenenlerin kelime öğrenme stratejileri ile yabancı dilde okuma kaygıları arasındaki ilişki
AYSU BEGÜM KARAGÖL ÖZKUL
Yüksek Lisans
İngilizce
2023
Eğitim ve Öğretimİstanbul Medeniyet ÜniversitesiYabancı Diller Eğitimi Ana Bilim Dalı
DR. ÖĞR. ÜYESİ FERDANE DENKCİ AKKAŞ
- Cumhuriyet Dönemi çağdaş Türk vokal repertuvarının ilk elli yılına bir bakış ve bu bağlamda seçilmiş üç eserin incelenmesi
A view on the first fifty years of the contemporary Turkish vocal repertory of the Republic Period and the analysis of three works chosen within this context
MEHMET KORHAN İLGAR
Yüksek Lisans
Türkçe
2015
MüzikHacettepe ÜniversitesiKompozisyon, Koro ve Orkestra Şefliği Ana Sanat Dalı
YRD. DOÇ. DR. ALİ TURGAY ERDENER
- 6/7 Eylül 1955 olaylarına götüren etken ve aktörler
Factors and actors leading to the 6/7 September 1955 events
CHRİSTİNA ZENGİNOĞLU
Yüksek Lisans
Türkçe
2016
Uluslararası İlişkilerBahçeşehir ÜniversitesiKüresel Siyaset ve Uluslararası İlişkiler Bilim Dalı
PROF. DR. MUSTAFA SABRİ SAYARI