Kuantum esinli çapraz dikkat hizalaması ile Türkçe bilimsel makalelerde soyutlayıcı özetleme
Abstractive summarization of turkish scientific articles via quantum inspired cross-attention alignment
- Tez No: 996323
- Danışmanlar: PROF. DR. ECİR UĞUR KÜÇÜKSİLLE
- Tez Türü: Doktora
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Mühendislik Bilimleri, Computer Engineering and Computer Science and Control, Engineering Sciences
- Anahtar Kelimeler: Bilgisayarsız bilgisayar bilimi, Kuantum, Kuantum bilgisayarlar, Kuantum bilişim, Kuantum devreleri, Kuantum kod, Kuantum sistemleri, Kuantum yöntemi, Yapay dil öğrenimi, Computer science unplugged, Quantum, Quantum computers, Quantum information, Quantum circuits, Quantum codes, Quantum systems, Quantum method, Artificial language learning
- Yıl: 2025
- Dil: Türkçe
- Üniversite: Süleyman Demirel Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Türkçe bilimsel makalelerin soyutlayıcı özetlenmesi alanyazında güç bir görev olarak görülmektedir. Kaynakların sınırlı olması, metinlerin uzun ve karmaşık yapısı; özetlerde içerik kaybına, çıktı ve kaynak metinler arasında uyumsuzluğa neden olmaktadır. Bu yapısal zorluklar ve uyumsuzluklar, aynı zamanda model düzeyinde de sorunlara neden olmaktadır. Bu bağlamda, özellikle derin öğrenmeye dayalı özetleme modellerinde jeton düzeyi hizalamanın zayıflaması ve gerçeğe aykırı içerik üretimi riskinin artması temel güçlükler olarak görülmektedir. Belirtilen sorunların hafifletilmesi amacıyla, bu tez çalışmasında mBART-50 tabanı üzerinde kuantum-esinli yöntemler ailesi sistematik biçimde incelenmiştir. Altı varyant değerlendirilmiştir: SFT, SFT+LoRA, SFT+QDA, SFT+LoRA+QDA ve iki kuantum destekli kod çözücü (SFT+QDA+QKernel-parametresiz; SFT+QDA+QBorn-Born kuralı esinli, öğrenilebilir klasik eşleme). Modeller beş farklı rastgele başlangıç değeriyle eğitilmiş; çıkarımlar ışın araması ve örnekleme yöntemleri kullanılarak gerçekleştirilmiştir. Performans ROUGE-1/2/L/Lsum, BERTScore-F1 ve çeşitlilik/kapsama tanılayıcıları (novel n-gramlar, coverage, density, compression, repetition, distinct, self-BLEU) ile ölçülmüş; belirsizlik ve yeniden örnekleme (bootstrap) temelli güven aralıkları, Benjamini–Hochberg FDR ve Cliff's δ ile sınanmıştır. Kararlı çıkarımın çeşitli çıkarıma kıyasla tutarlı biçimde üstünlük sağladığı gözlenmiştir. En iyi sonuçların SFT+QDA+QKernel (beam) modeli ile elde edildiği gösterilmiştir (ROUGE-1 0,4633; ROUGE-2 0,2652; ROUGE-L 0,2966; BERTScore-F1 0,8890) ve tüm taban çizgilere karşı istatistiksel olarak anlamlı, büyük etki büyüklüğünde kazanımlar sağladığı raporlanmıştır. Parametresiz kuantum çekirdeğinin, ek öğrenilebilir parametre veya ek çıkarım yükü getirmeden joken düzeyi hizalamayı güçlendirdiği ve düşük kaynaklı diller için pratik, taşınabilir bir çözüm yolu sunduğu sonucuna varılmıştır.
Özet (Çeviri)
Abstractive summarization of Turkish scientific articles is considered a difficult task in the literature. The scarcity of resources and the lengthy and complex structure of texts lead to content loss in summaries, as well as inconsistencies between the output and source texts. These structural difficulties and inconsistencies also cause problems at the model level. In this context, the weakening of token-level alignment and the increased risk of hallucination are seen as fundamental challenges, especially in deep learning-based summarization models. To mitigate these problems, a family of quantum-inspired methods is systematically investigated on top of mBART-50. Six variants are evaluated: SFT, SFT+LoRA, SFT+QDA, SFT+LoRA+QDA, and two quantum-augmented kod çözücüs (SFT+QDA+QKernel-parameter-free; SFT+QDA+QBorn- inspired Born rule, learnable classical interface). Models are trained with five random seeds, and inference is conducted using beam search and sampling. Performance is measured with ROUGE-1/2/L/Lsum, BERTScore-F1, and diversity/coverage diagnostics (novel n-grams, coverage, density, compression, repetition, distinct, self-BLEU). Uncertainty and statistical significance are assessed via bootstrap confidence intervals, Benjamini–Hochberg FDR, and Cliff's δ. Beam search is found to consistently outperform sampling. The best results are obtained with SFT+QDA+QKernel under beam decoding (ROUGE-1 0.4633; ROUGE-2 0.2652; ROUGE-L 0.2966; BERTScore-F1 0.8890), yielding statistically significant, large-effect improvements over all baselines. It is concluded that the parameter-free quantum kernel strengthens token-level alignment without introducing additional trainable parameters or inference overhead, thereby offering a practical and portable solution path for low-resource languages.
Benzer Tezler
- Biyomedikal mühendisliği uygulamaları için LLM tabanlı çok görevli öğrenme çerçevesi kullanılarak çoklu özellikli polimer tahmini
Multi-property polymer prediction using an LLM-based multi-task learning framework for biomedical engineering applications
MURAT TEKSÖZ
Yüksek Lisans
İngilizce
2026
Mühendislik BilimleriAnkara ÜniversitesiBiyomedikal Mühendisliği Ana Bilim Dalı
PROF. DR. HİLAL GÖKTAŞ
- Nanoscale and bio-inspired communication techniques for the internet of bio-nano things
Biyo-nano nesnelerin interneti için nano-ölçekli ve biyolojik-esinli haberleşme teknikleri
MURAT KUŞCU
Doktora
İngilizce
2017
Elektrik ve Elektronik MühendisliğiKoç ÜniversitesiElektrik Elektronik Mühendisliği Bilim Dalı
PROF. DR. ÖZGÜR BARIŞ AKAN
- Colloidal synthesis and optical properties of heterostructured quantum wells
Kuantum kuyularının heteroyapılarının koloidal sentezi ve optik özellikleri
FURKAN IŞIK
Doktora
İngilizce
2024
Fizik ve Fizik Mühendisliğiİhsan Doğramacı Bilkent ÜniversitesiMühendislik ve Doğa Bilimleri Ana Bilim Dalı
PROF. DR. HİLMİ VOLKAN DEMİR
