A comprehensive analysis of adversarial attacks on spam filters
İstenmeyen e-posta filtrelerine yönelik çekişmeli saldırıların kapsamlı bir analizi
- Tez No: 920886
- Danışmanlar: PROF. DR. SEVİL ŞEN AKAGÜNDÜZ
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2024
- Dil: İngilizce
- Üniversite: Hacettepe Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Bilgisayar Mühendisliği Bilim Dalı
- Sayfa Sayısı: 75
Özet
İstenmeyen e-posta filtreleri, kötü amaçlı yazılımların posta kutusuna ulaşmadan önce tespit edilmesine yardımcı olur ve siber güvenliğin hayati bir parçasıdır. Makine öğrenimi tabanlı istenmeyen e-posta dedektörlerinin de kullanışlı ve oldukça başarılı olduğu kanıtlanmıştır. Yapay zekanın gelişmesiyle birlikte, makine öğrenimi algoritmaları giderek daha önemli hale gelmiştir ve büyük ölçüde test edilmemiştir. Ancak çekişmeli öğrenme, makine öğrenmesi algoritmalarını kullanan çeşitli güvenlik sistemlerinin güvenlik açıklarının araştırıldığı ve makine öğrenmesi modellerini kötü niyetli girdilerle alt etmeye yönelik girişimlerin yapıldığı önemli bir kavramdır. Doğal Dil İşleme de dahil olmak üzere makine öğrenimi bağlamında, düşmanca bir saldırı, hatalara neden olmak veya bir makine öğrenimi modelinden yanlış çıktılar üretmek için girdi verilerinin kasıtlı olarak değiştirilmesini içerir. Bu çalışma, derin öğrenme tabanlı istenmeyen e-posta dedektörlerine karşı düşmanca saldırıların fizibilitesini araştırıyor. İlk olarak, öne çıkan altı derin öğrenme modeli uygulanıyor ve kara kutu senaryo ayarlarında karakter, kelime ve cümle seviyesi olmak üzere üç seviyeli saldırılar analiz ediliyor. Bu saldırılar, gerçek dünyadaki üç istenmeyen e-posta veri kümesinde değerlendirilir. Ayrıca, saldırı etkinliğini artırmak için istenmeyen e-posta ağırlıkları ve dikkat ağırlıkları dahil olmak üzere yeni puanlama işlevleri tanıtılmıştır. Son olarak, üretici yapay zeka tarafından üretilen istenmeyen e-postaların derin öğrenme tabanlı istenmeyen e-posta tespiti modelleri üzerindeki etkisi araştırılmıştır. Bu kapsamlı analiz, istenmeyen e-posta filtrelerinin güvenlik açıklarına ışık tutmaktadır ve gelişen rakip tehditlere karşı güvenliklerini artırma çabalarına katkıda bulunmaktadır.
Özet (Çeviri)
Email spam filters help detect malware before it reaches the mailbox and are a vital part of cyber security. Machine learning-based spam detectors have also proven to be useful and highly successful. With the advancement of artificial intelligence (AI), machine learning algorithms have become increasingly important and remain largely untested. However, adversarial learning is an important concept where the vulnerabilities of various security systems using machine learning algorithms are investigated and attempts are made to defeat machine learning models with malicious input. In the context of machine learning, including Natural Language Processing (NLP), an adversarial attack involves the deliberate manipulation of input data to cause errors or produce incorrect outputs from a machine learning model. This study investigates the feasibility of adversarial attacks against deep learning-based spam detectors. First, six prominent deep learning models are implemented, and three level attacks, namely character-, word-, and sentence-level, are analyzed in black-box scenario settings. These attacks are evaluated on three real-world spam datasets. Moreover, novel scoring functions, including spam weights and attention weights, are introduced to improve attack effectiveness. Lastly, the impact of AI-generated spam emails is investigated on the deep learning spam detection models. This comprehensive analysis sheds light on the vulnerabilities of spam filters and contributes to efforts to improve their security against evolving adversarial threats.
Benzer Tezler
- Applications of artificial intelligence for the security of networks
Ağ güvenliği için yapay zeka uygulamalari
SELEN GEÇGEL ÇETİN
Doktora
İngilizce
2025
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. GÜNEŞ ZEYNEP KARABULUT KURT
- Endüstriyel kontrol sistemlerindeki yazılım açıklarına yönelik dinamik aldatma yama stratejileri ile güvenlik yönetimi
Security management with dynamic deception patching strategies for software vulnerabilities in industrial control systems
HAYRİYE TANYILDIZ
Yüksek Lisans
Türkçe
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolMalatya Turgut Özal ÜniversitesiEnformatik Ana Bilim Dalı
DOÇ. DR. CANAN BATUR ŞAHİN
DR. ÖĞR. ÜYESİ ÖZLEM BATUR DİNLER
- A novel framework for real time transient stability prediction in power systems under data integrity attacks
Veri bütünlüğü saldırıları altındaki güç sistemlerinde gerçek zamanlı geçici hal kararlılık tahmini için özgün bir yaklaşım
KEMAL AYGÜL
Doktora
İngilizce
2025
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiElektrik Mühendisliği Ana Bilim Dalı
PROF. DR. VEYSEL MURAT İSTEMİHAN GENÇ
- Adversarial attack detection on internet of things networks
Nesnelerin interneti ağlarında çekişmeli saldırıların tespiti
ELİF DEĞİRMENCİ
Doktora
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolEskişehir Osmangazi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. AHMET YAZICI
DR. ÖĞR. ÜYESİ İLKER ÖZÇELİK
- Aeroacoustics and aerodynamics optimization with using machine learning algorithms
Makina öğrenmesi algoritması kullanılarak aerodinamik ve aeroakustik optimizasyon
SERHAD AYTAÇ
Doktora
İngilizce
2025
Havacılık ve Uzay Mühendisliğiİstanbul Teknik ÜniversitesiUçak ve Uzay Mühendisliği Ana Bilim Dalı
DOÇ. DR. BAHA ZAFER