Açıklanabilir yapay zeka kullanarak saldırı tespit sistemi geliştirme
Developing an intrusion detection system using explainable artificial intelligence
- Tez No: 1009480
- Danışmanlar: PROF. DR. ŞEREF SAĞIROĞLU
- Tez Türü: Doktora
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2025
- Dil: Türkçe
- Üniversite: Gazi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgi Güvenliği Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Saldırı Tespit Sistemleri (STS), yetkisiz erişimleri ve zararlı aktiviteleri tespit ederek bilgi sistemlerinin korunmasında önemli bir rol oynamaktadır. Her geçen gün karmaşıklaşan siber tehditlere karşı, geleneksel saldırı tespit sistemleri gelişmiş Yapay Zekâ (YZ) tekniklerini kullanacak şekilde evrimleşmiştir. Ancak,“kara kutular”olarak adlandırılan özellikle derin öğrenme temelli birçok YZ modelinin karmaşık yapısı, zeki sistemlerin karar alma süreçlerini anlama ve bunlara güvenme konusunda önemli zorluklar ortaya koymaktadır. Açıklanabilir Yapay Zekâ (AYZ), karmaşık modellere şeffaflık ve açıklanabilirlik sağlayarak bu soruna bir çözüm olarak ortaya çıkmaktadır. STS'ler YZ ile birlikte daha büyük önem kazanmakta, YZ modellerinin aldığı kararların nedenlerini bilmek ise bu kritik alanda en önemli çalışma alanlarının başında gelmekte, AYZ çözümlerine olan ihtiyaç ise giderek artmaktadır. YZ modelleri ve çıktılarını daha açıklanabilir ve şeffaf hale getirmek, artan endişeleri gidermek, kara kutu problemini çözmek, modellere ve kararlara güveni artırmak amacıyla açıklanabilir STS konusu bu tez çalışmasında ele alınmış; STS ve AYZ ilişkisi detaylı olarak incelenmiş; 2018-2025 yılları arasında yapılan 386 adet AYZ destekli STS çalışması farklı perspektiflerden gözden geçirilmiş; literatürdeki en kapsamlı çalışma yapılmış; YZ temelli geliştirilen STS modellerinin kararlarını güvenle açıklayan ve üç adımdan oluşan (veri önişleme, hibrit sınıflandırma ve açıklanabilirlik) özgün bir STS geliştirilmiştir. Ayrıca, tez çalışmasında; öznitelik seçimi, veri dengeleme, LightGBM, GCN, SHAP ve GNNExplainer yaklaşımlarından oluşan üç özgün algoritma önerisi sunulmuş; büyük dil modelleri (BDM) kullanılarak mevcut sistemin kararlarını daha açıklanabilir hale getirmek için dördüncü bir BDM algoritması sisteme entegre edilmiştir. Önerilen birinci algoritma; veri önişleme adımında rasgele orman özellik önemi, Pearson korelasyon matrisi, SMOTE ve Tomek-Links tekniklerinden oluşmaktadır. İkinci algoritma olarak; hibrit sınıflandırma adımında LightGBM ve GCN yaklaşımlarının birleşiminden oluşan hibrit bir sınıflandırma algoritması geliştirilmiştir. Üçüncü algoritma; SHAP ve GNNExplainer AYZ yaklaşımlarından oluşan yeni ve çok boyutlu bir açıklanabilir YZ önerisidir. Dördüncü algoritmada ise BDM entegrasyonu sonucunda elde edilen açıklanabilirlik çıktıları 2 BDM sohbet robotu kullanılarak yorumlatılmış ve kullanıcılara geliştirilen sistemin verdiği sonuçlar daha kapsamlı açıklanmıştır. Önerilen kompakt sistemin yalnızca yüksek performansla çalışması değil, aynı zamanda güvenilir ve anlaşılabilir kararlar ürettiği yapılan deneysel çalışmalar ile doğrulanmıştır. Deneysel çalışmalarda, iki farklı veri kümesi kullanılarak farklı metriklerle ölçülmüş, literatürdeki 19 farklı YZ modeli ile eğitilerek karşılaştırılmış ve sonuçlar değerlendirilmiştir. Önerilen sistem; ikili ve çoklu sınıflandırma sonuçlarında veri kümelerine bağlı olarak 0,8444 ile 0,9999 arasında doğruluk performansına ulaşmıştır. Elde edilen sonuçlar; literatürdeki mevcut modellere kıyasla oldukça başarılı olup özniteliklerin model çıktıları üzerindeki etkileri ile birlikte alt-graf seviyesinde de açıklanabilirlik sağlanmış ve böylece, önerilen sistem hem özellik düzeyinde hem de ilişkisel düzeyde çok boyutlu çözümler üretmiştir. Bunlara ilave olarak, veri kümeleri, Zeek açık kaynak STS üzerinde gerçek bir STS ortamında çalıştırılarak elde edilen performanslar değerlendirilmiştir. Sonuç olarak; bu tez çalışmasında geliştirilen çözümlerin siber güvenlik gibi kritik bir alanda sadece STS'ler için değil diğer alanlarda da kullanılabileceği, YZ modellerinde“kara kutu”problemlerinin çözümüne katkılar sağlayacağı, AYZ'nin STS'lere entegrasyonu sonucunda açıklanabilir modellerin saldırı tespitinin etkinliğini, güvenilirliğini ve hesap verebilirliğini artırabileceği, AYZ'yi modern STS'lerin temel bir bileşeni haline getireceği öngörülmektedir.
Özet (Çeviri)
Intrusion Detection Systems (IDS) play a crucial role in protecting information systems by detecting unauthorized access and malicious activity. To combat increasingly complex cyber threats, traditional intrusion detection systems have evolved to utilize advanced Artificial Intelligence (AI) techniques. However, the complex nature of many AI models, particularly those based on deep learning and referred to as“black boxes,”presents significant challenges in understanding and trusting the decision-making processes of these intelligent systems. Explainable Artificial Intelligence (AI) emerges as a solution to this problem by providing transparency and explainability to complex models. IDSs are gaining greater importance with AI, and understanding the reasons behind the decisions made by AI models is one of the most important areas of study in this critical field, while the need for AI solutions is steadily increasing. This thesis addresses the topic of explainable IDS with the aim of making AI models and their outputs more explainable and transparent, alleviating growing concerns, solving the black box problem, and increasing confidence in models and decisions; the relationship between IDS and AI is examined in detail; 386 AI-supported IDS studies conducted between 2018 and 2025 are reviewed from different perspectives; the most comprehensive study in the literature is conducted; and a unique IDS that reliably explains the decisions of AI-based IDS models and consists of three steps (data preprocessing, hybrid classification, and explainability) is developed. Furthermore, in this thesis; Three original algorithm proposals consisting of feature selection, data balancing, LightGBM, GCN, SHAP, and GNNExplainer approaches are presented; a fourth LLM algorithm is integrated into the system to make the decisions of the existing system more explainable using large language models (LLMs). The first proposed algorithm consists of random forest feature importance, Pearson correlation matrix, SMOTE, and Tomek-Links techniques in the data preprocessing step. The second algorithm is a hybrid classification algorithm developed by combining LightGBM and GCN approaches in the hybrid classification step. The third algorithm is a new and multidimensional explainable AI proposal consisting of SHAP and GNNExplainer AI approaches. In the fourth algorithm, the explainability outputs obtained as a result of LLM integration are interpreted using 2 LLM chatbots, and the results given by the developed system are explained to the users in a more comprehensive way. Experimental studies have confirmed that the proposed compact system not only operates with high performance but also produces reliable and understandable decisions. In experimental studies, two datasets were used, measured with different metrics, trained with 19 different AI models in the literature, compared, and the results were evaluated. The proposed system achieved accuracy performance between 0.8444 and 0.9999 in binary and multiple classification results, depending on the datasets. The obtained results are quite successful compared to existing models in the literature, and explainability was provided at the sub-graph level as well as the effects of features on model outputs, thus the proposed system produced multidimensional solutions at both the feature and relational levels. In addition, the performance of the developed models was evaluated by running them in a real IDS environment on the Zeek open-source IDS. In conclusion; It is predicted that the solutions developed in this thesis can be used not only for IDS in a critical field such as cybersecurity, but also in other areas; that they will contribute to solving“black box”problems in AI models; that the integration of AI into IDS can increase the effectiveness, reliability, and accountability of explainable models in attack detection; and that AI will become a fundamental component of modern IDS.
Benzer Tezler
- A situational awareness framework for connected autonomous vehicles
Bağlantılı otonom araçlar için durum farkındalık sistemi
DERYANUR TEZCAN
Yüksek Lisans
İngilizce
2024
Mekatronik Mühendisliğiİstanbul Teknik ÜniversitesiMekatronik Mühendisliği Ana Bilim Dalı
PROF. DR. GÜLAY ÖKE GÜNEL
- Saldırı tespit sistemlerinde yapay zekâ tabanlı anomali tespiti
Artificial intelligence-based anomaly detection in intrusion detection systems
AWAB DAW SAAD KHALEFA
Yüksek Lisans
Türkçe
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. AHMET ZENGİN
- Güvenlik duvarı loglarının makine ve derin öğrenme ile sınıflandırılması ve açıklanabilir yapay zeka ile yorumlanması
Classification of firewall logs using machine and deep learning and interpretation with explainable artificial intellgence
FATMİR GARRİ
Yüksek Lisans
Türkçe
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya Uygulamalı Bilimler ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ CEM ÖZKURT
- Finansal sistemler için bütünleşik bir açıklanabilir yapay zekâ çerçevesi geliştirilmesi
Developing an integrated explainable artificial intelligence framework for financial systems
ABDULLAH EMİR ÇİL
Doktora
Türkçe
2026
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolMarmara ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. KAZIM YILDIZ
- Açıklanabilir yapay zeka kullanarak turnover riskinin yönetimi
Managing turnover risk using explainable artificial intelligence
DERYA HABİB
Yüksek Lisans
Türkçe
2026
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKarabük ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. OĞUZ FINDIK