Büyük dil modellerinin güvenliği ve saldırılarına karşı güvenlik stratejilerinin geliştirilmesi
Security of large language models and developmaent of securitystrategies against their attacks
- Tez No: 951564
- Danışmanlar: DOÇ. DR. BİHTER DAŞ
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2024
- Dil: Türkçe
- Üniversite: Fırat Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Yazılım Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 158
Özet
Bu tez önerisinde, Büyük Dil Modellerinin (LLM'ler) güvenliğini artırmayı amaçlayan yenilikçi stratejiler geliştirilmesi amaçlanmaktadır. LLM'lerin karşılaştığı başlıca güvenlik sorunları arasında eğitim verilerindeki önyargıların modele yansıması ve enjeksiyon saldırıları yer almaktadır. Tez çalışmasında, bu sorunlara yönelik çözüm önerileri sunulacak olup ve halüsinasyon ile dahili veri ifşası gibi konulara odaklanarak LLM'lerin güvenliğini sağlanması hedeflemektedir. Önerilen yazılım sistemi, Kernel ve Retrieval-Augmented Generation (RAG) gibi gelişmiş güvenlik araçlarını kullanarak LLM'lerin güvenliğini artırmak için etkili bir yaklaşım sunmaktadır. Bu bağlamda, tez önerisi teorik ve pratik anlamda önemli katkılar sağlamayı amaçlamaktadır ve yapay zekâ etiği ve güvenliği alanında yeni araştırmalara ilham verebilecek potansiyele sahiptir.
Özet (Çeviri)
This thesis proposal aims to develop innovative strategies aimed at improving the security of Large Language Models (LLMs). The main security issues faced by LLMs include biases in the training data being reflected in the model and injection attacks. In the thesis, solutions to these problems will be presented and it aims to ensure the security of LLMs by focusing on issues such as hallucination and internal data disclosure. The proposed software system offers an effective approach to enhance the security of LLMs by using advanced security tools such as Kernel and Retrieval-Augmented Generation (RAG). In this context, the thesis proposal aims to make significant contributions in theoretical and practical terms and has the potential to inspire new research in the field of artificial intelligence ethics and security.
Benzer Tezler
- Ai-powered web application security mechanisms
Yapay zeka destekli ağ uygulaması güvenliği düzenekleri
DİLEK YILMAZER DEMİREL
Doktora
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ MEHMET TAHİR SANDIKKAYA
- Obfuscated JavaScript detection using syntactically and lexically enhanced machine learning
Perdelenmiş JavaScript kodlarının sözdizimsel ve anlamsal yönden iyileştirilmiş makina öğrenmesi ile tespiti
EREN KILIÇ
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ MEHMET TAHİR SANDIKKAYA
- Analysis of information security frameworks for small and medium-sized enterprises (SMEs): Investigation of attacks and mitigation proposals
KOBİ'ler için bilgi güvenliği çerçevelerinin analizi, saldırıların incelenmesi ve çözüm önerileri
GİZEMNUR TAŞKIN
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ MEHMET TAHİR SANDIKKAYA
- Multi-model multi-agent defense against LLM jailbreak attacks
Büyük dil modellerine yönelik jailbreak saldirilarina karşi çok modelli çok ajanli sistemler ile savunma
ARJEN AYKAN KILIÇ
Yüksek Lisans
İngilizce
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiMühendislik Bilimleri Ana Bilim Dalı
PROF. DR. FATİH ALAGÖZ
PROF. DR. EMİN ANARIM
DOÇ. DR. REYHAN AYDOĞAN
- A comprehensive analysis of adversarial attacks on spam filters
İstenmeyen e-posta filtrelerine yönelik çekişmeli saldırıların kapsamlı bir analizi
ESRA HOTOĞLU
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolHacettepe ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. SEVİL ŞEN AKAGÜNDÜZ