Büyük dil modelleri kullanılarak Türkçe akademik makale özetlerinden başlık üretilmesi
Generating titles from turkish academic article abstracts using large language models
- Tez No: 977195
- Danışmanlar: DOÇ. DR. MEHMET ZEKİ KONYAR
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: İnsan-yapay zeka etkileşimi, Human-artificial intelligence interaction
- Yıl: 2025
- Dil: Türkçe
- Üniversite: Kocaeli Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Yazılım Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Yazılım Mühendisliği Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Yapay zeka teknolojileri, doğal dil işleme (NLP) alanında çeviri, metin üretimi ve metin sınıflandırma gibi görevlerde kayda değer başarılar elde etmiştir. Son yıllarda büyük dil modellerinin (Large Language Models - LLMs) gelişimi, bu başarıların kapsamını genişletmiş ve çok dilli modeller aracılığıyla farklı dillerde de etkili performans sergilenmesini mümkün kılmıştır. Ancak çok dilli modellerin önemli bir kısmı, paralel çeviri verileri kullanılarak veya çeviri merkezli yaklaşımlarla eğitildiğinden, yerel dillerin yapısal ve kültürel özelliklerini yeterli düzeyde temsil etmekte sınırlılıklar gösterebilmektedir. Bu bağlamda, düşük kaynaklı diller başta olmak üzere, yerel dil verileriyle eğitilen modellerin geliştirilmesi, daha bağlama duyarlı ve dilsel olarak tutarlı çıktılar elde edilebilmesi açısından kritik bir gereklilik olarak öne çıkmaktadır. Türkçe dili özelinde değerlendirildiğinde ise, bu alandaki çalışmaların oldukça sınırlı olduğu ve yüksek kaliteli, kapsamlı ve görev odaklı veri setlerinin eksikliğinin, yerli modellerin gelişimini önemli ölçüde kısıtladığı görülmektedir. Bu durum, Türkçe gibi morfolojik açıdan zengin dillerde etkili ve güvenilir dil modellerinin geliştirilmesini daha da zorlaştırmaktadır. Bu çalışma, Türkçe akademik metinlerde başlık üretimi (title generation) gibi özelleştirilmiş başlık oluşturma görevine odaklanarak, söz konusu dilsel ve yapısal zorluklara katkı sunmayı amaçlamaktadır. DergiPark'da yayınlanmış yapay zeka alanındaki 3332 Türkçe makalelerden alınan özetler ve başlıklardan bir veriseti oluşturuldu. Oluşturulan verisetinde BART, LLaMA, Mistral, Gemma, Trendyol LLM ve Turkish-LLaMA gibi dil modelleri eğitilmiştir. BART, LLaMA, Mistral ve Gemma doğal dil işleme alanında oldukça başarılı olan ve geniş bir dil yelpazesine sahip olan modellerdir. Bu modeller, genellikle çeviri, metin oluşturma ve sınıflandırma gibi çeşitli görevlerde kullanılmaktadır. Trendyol LLM ve Turkish-LLaMA ise Türkçe özelinde ince ayar (fine-tuning) uygulanmış ve dil üretiminde etkili sonuçlar veren modellerdir. Bu çalışmada, modeller özet metinlerinden başlık üretme amacıyla eğitilmiş ve her biri 60 epoch boyunca A100 GPU üzerinde çalıştırılmıştır. Performans karşılaştırmalarında BLEU, METEOR, mBERT ile kosinüs benzerliği ve ROUGE metrikleri kullanılmıştır. BLEU, METEOR ve ROUGE metriklerine göre en yüksek başarı Gemma 2 (27B) modeli ile elde edilmiştir. Buna ek olarak, mBERT tabanlı kosinüs benzerliğinde en iyi performans Gemma 2 (9B) modeli tarafından gösterilmiştir. Tüm model geliştirme ve deneysel süreçler Google Colab ortamında gerçekleştirilmiştir.
Özet (Çeviri)
Artificial intelligence technologies have demonstrated significant progress in natural language processing (NLP) tasks such as machine translation, text generation, and text classification. The emergence of large language models (LLMs) in recent years has considerably broadened the scope of these achievements, enabling robust performance across multiple languages through multilingual architectures. However, many of these multilingual models, often trained on parallel corpora or translation-centric data, exhibit limitations in accurately capturing the structural and cultural intricacies of local languages. In this context, the development of language models trained on native-language-specific corpora, particularly for low-resource languages, has become essential for producing outputs that are both contextually appropriate and linguistically coherent. With respect to Turkish, current research remains relatively scarce, and the lack of high-quality, large-scale, and task-specific datasets poses a substantial barrier to the development of effective local language models. This challenge is further exacerbated by the morphological complexity of Turkish, making the creation of reliable and high-performing models even more demanding. This study addresses these linguistic and structural challenges by focusing on a specialized task in NLP: generating titles for Turkish academic texts. A dataset was constructed using the abstracts and titles of 3,332 Turkish-language articles published on DergiPark in the field of artificial intelligence. Prominent transformer-based language models, including BART, LLaMA, Mistral, Gemma, Trendyol LLM, and Turkish-LLaMA, were fine-tuned on this dataset. BART, LLaMA, Mistral, and Gemma are widely adopted in the field of natural language processing and have demonstrated strong performance across a variety of tasks, such as machine translation, text generation, and classification, in multiple languages. Trendyol LLM and Turkish-LLaMA, in contrast, are specifically fine-tuned for the Turkish language and have shown promising results in language generation tasks. In this study, each model was trained to generate article titles from abstracts, with training conducted for 60 epochs on an A100 GPU. Performance comparisons were carried out using standard evaluation metrics, including BLEU, METEOR, ROUGE, mBERT-based cosine similarity, and others. According to the BLEU, METEOR, and ROUGE metrics, the highest performance was achieved by the Gemma 2 (27B) model. In addition, the Gemma 2 (9B) model demonstrated the best performance in mBERT-based cosine similarity. All model development and experimental procedures were conducted within the Google Colab environment.
Benzer Tezler
- Hakem atama otomasyonu için bir karar destek sistemi: Doğal dil işleme ve veri-güdümlü optimizasyon ile bütünleşik bir yaklaşım
A decision support system for reviewer assignment automation: An integrated approach with natural language processing and data-driven optimization
MELTEM AKSOY
Doktora
Türkçe
2023
Endüstri ve Endüstri Mühendisliğiİstanbul Teknik ÜniversitesiEndüstri Mühendisliği Ana Bilim Dalı
DOÇ. DR. SEDA YANIK ÖZBAY
PROF. DR. MEHMET FATİH AMASYALI
- Akademik hukuk makalelerinde atıf önerisi
Citation recommendation on scholarly legal articles
DOĞUKAN ARSLAN
Yüksek Lisans
Türkçe
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. GÜLŞEN ERYİĞİT
- Doğal dil işleme yöntemlerini kullanarak yapay zeka destekli metin ve duygu analizi
Artificial intelligence supported text and sentiment analysis using natural language processing methods
MAHKUM SAKAR
Yüksek Lisans
Türkçe
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolIğdır ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ AKİF KURT
- Analysis of natural language processing techniques and development of Turkish named entity recognition tool for travel-tourism voice assistant
Doğal dil işleme tekniklerinin incelenmesi ve seyahat-turizm sesli asistanı için Türkçe varlık ismi tanıma aracı geliştirilmesi
DENİZ GÜL ÖZCAN
Yüksek Lisans
İngilizce
2020
Mühendislik BilimleriAkdeniz ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. ÜMİT DENİZ ULUŞAR
- Improving vision LLM performance on standardized test questions
Görsel dil modellerinin üniversite sınavı performansının geliştirilmesi
ŞEFİK EGEMEN SERT
Yüksek Lisans
İngilizce
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. ŞEYDA ERTEKİN