Büyük dil modelleri ve modern doğal dil işleme teknikleri kullanılarak sektörel chatbot tasarımı ve iyileştirme
Industrial chatbot design and optimization using large language models and modern natural language processing techniques
- Tez No: 989458
- Danışmanlar: PROF. DR. MEHMET SERDAR GÜZEL
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2025
- Dil: Türkçe
- Üniversite: Ankara Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Bilimleri ve Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Bilgisayar Mühendisliği Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Derin öğrenme alanında yaşanan hızlı gelişmeler, büyük dil modellerinin ortaya çıkmasını sağlamış ve bu modeller, doğal dilin anlaşılması ve işlenmesinde çığır açıcı bir rol üstlenmiştir. Bu tür modeller, dilin yapısal karmaşıklığını çözümleyebilme ve insan benzeri yanıtlar üretebilme kapasitesiyle öne çıkmıştır. Sohbet robotları gibi insanların etkileşim kurduğu uygulamalarda başarı sonuçlar ortaya koymaktadır. Ancak, ticari dil modellerinin yüksek lisanslama ücretleri ve yoğun donanım gereksinimleri, açık kaynaklı çözümlere olan ilgiyi artırmaktadır. Bu çalışma kapsamında, daha düşük kaynak gereksinimiyle yüksek verim elde etmek amacıyla DeepSeek-R1 ve LlaMA 3.1 gibi açık kaynaklı modeller kullanılmıştır. Açık kaynaklı dil modellerinin performansını arttırabilmek amacıyla LoRA yöntemi kullanılarak ince ayar işlemi gerçekleştirilmektedir. Bununla birlikte modelin performansını daha da geliştirebilmek amacıyla bilgi getirme tabanlı mimari yapı entegre edilmektedir. Geliştirilen bu sistem içerisinde ki modeller Claude 3.7 ticari modeliyle karşılaştırılmaktadır. Karşılaştırma testleri için ChatGPT ve Gemini tabanlı iki ayrı veri seti kullanılmaktadır. Elde edilen sonuçlar, düşük parametreli ve açık kaynaklı modellerin uygun ince ayar ve bilgi getirme desteğiyle, ticari büyük ölçekli modellerle rekabet edebilecek düzeyde olduğunu göstermiştir. Bu çalışmanın sonucu olarak, açık kaynaklı modeller ve bilgi getirme tabanlı sistemler, donanımın kısıtlı olduğu ortamlarda ve sınırlı kaynaklarla yürütülen çalışmalarda etkili bir alternatif olarak öne çıkmaktadır.
Özet (Çeviri)
Rapid developments in the field of deep learning have led to the emergence of large language models, which have played a seminal role in the understanding and processing of natural language. Such models are characterized by their capacity to analyze the structural complexity of language and generate human-like responses. They have been successful in applications where humans interact, such as chatbots. However, the high licensing fees and intensive hardware requirements of commercial language models have increased interest in open-source solutions. In this study, open-source models such as DeepSeek-R1 and LLaMA 3.1 are used to achieve high throughput with lower resource requirements. In order to improve the performance of open-source language models, a fine-tuning process is performed using the LoRA method. In addition, a knowledge retrieval based architecture is integrated to further improve the performance of the model. The models in this system are compared with the Claude 3.7 commercial model. Two separate datasets based on ChatGPT and Gemini are used for the comparison tests. The results show that low-parameter, open-source models, with appropriate fine-tuning and knowledge retrieval support, can compete with commercial large-scale models. As a result of this study, open-source models and retrieval augmented generation stand out as an effective alternative in hardware-constrained environments and with limited resources.
Benzer Tezler
- A new framework for decentralized social networks: Harnessing blockchain, deep learning, and natural language processing
Merkezsiz sosyal ağlar için yeni bir çerçeve: Blok zinciri, derin öğrenme ve doğal dil işlemeyi kullanmak
AMIR AL KADAH
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiYazılım Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ DENİZ BALTA
- Efficient estimation of Shrinkage parameters in fuzzy Ridge and fuzzy Liu regression models using α-cut-based methods under multicollinearity
Çoklu bağıntı durumunda bulanık Ridge ve bulanık Liu regresyon modellerinde α-kesim tabanlı yöntemler kullanılarak Shrinkage parametrelerinin etkin tahmini
AMMAR HOMAIDA
- Fake news classification using machine learning and deep learning approaches
Makine öğrenimi ve derin öğrenme yaklaşımlarını kullanarak sahte haber sınıflandırması
SAJA ABDULHALEEM MAHMOOD AL-OBAIDI
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolGazi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ TUBA ÇAĞLIKANTAR
- Yenilikçi moda tasarımında yapay zekanın rolü
The role of artificial intelligence in innovative fashion design
HAMIDEH BENAFI
Yüksek Lisans
Türkçe
2026
Güzel Sanatlarİstanbul Okan ÜniversitesiModa Tasarımı Ana Bilim Dalı
DR. ÖĞR. ÜYESİ SERNA UÇAR HATİPOĞLU
- Metin madenciliği ve derin öğrenme yöntemleri kullanılarak borsadaki hareketlerin sosyal medya ile ilişkisinin analiz edilmesi
Analyzing the relationship between stock market movements and social media using text mining and deep learning methods
METİN OKTAY BOZ
Yüksek Lisans
Türkçe
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolMersin ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ JALE BEKTAŞ