Federeated learning under attack: Exposing vulenrabilites through data poisoning attacks in computer networks
Saldırı altında federasyonu öğrenme: Bilgisayar ağlarındaki veri zehirlendirme saldırıları yoluyla hassasiyetleri açığa çıkarmak
- Tez No: 855998
- Danışmanlar: Dr. EHSAN NOWROOZİ
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Federated learning, Nedeniyet saldırıları, Düşmanca makine öğrenimi, Bozulmuş eğitim setleri, Siber güvenlik, Veri zehirlenmesi, Causative Attacks, Federated learning, Adversarial Machine Learning, Cybersecurity, Data- Poisoning Attacks
- Yıl: 2024
- Dil: İngilizce
- Üniversite: Bahçeşehir Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Bilgisayar Ana Bilim Dalı
- Bilim Dalı: Siber Güvenlik Bilim Dalı
- Sayfa Sayısı: 61
Özet
Federated Learning (FL), çoklu merkezsiz cihazların veya kenar sunucuların ham veri değişiminde bulunmadan ortak bir modeli işbirliği ile eğitebildiği bir makine öğrenimi (ML) yaklaşımıdır. İstemciler ve sunucular arasında model güncellemeleri paylaşılırken, veri ve modeller farklı veri-zehirleme saldırılarına maruz kalabilir. Bu çalışmada, bilgisayar ağı alanında veri zehirlenme saldırılarının ciddiyetini keşfetmek amacımız, çünkü uygulamaları kolay ancak tespiti zordur. İki tür veri- zehirlenme saldırısını, etiket değiştirme (LF) ve özellik zehirlenmesi (FP) türlerini düşündük ve bunları yeni bir yaklaşımla uyguladık. LF'de, ham verilerin etiketlerini rastgele çevirdik ve modele manipüle edilmiş veri üzerinde eğitim verdik. FP için, Random Forest algoritması kullanılarak belirlenen yüksek katkı sağlayan özellikleri rastgele manipüle ettik. Bu deneyde kullanılan veri setleri, bilgisayar ağlarıyla ilişkili olan CIC (Leevy, 2020) ve UNSW (Moustafa, 2015) idi. Yukarıda bahsedilen iki saldırı türüyle düşmanca örnekler oluşturduk ve bu, veri setlerinin küçük bir yüzdesine uygulandı. Daha sonra, modelin doğruluğunu düşmanca veri setleri üzerinde eğittik ve test ettik. 8 Her iki iyiniyetli ve manipüle edilmiş veri setleri için sonuçları kaydettik ve farklı veri setlerindeki model doğruluğu arasında önemli farklılıklar olduğunu gözlemledik. Deneysel sonuçlardan, LF saldırısının başarısız olduğu, FP saldırısının ise etkili sonuçlar gösterdiği ve bu durumun bir sunucuyu kandırmada önemini kanıtladığı açıktır. CIC'de %1 LF saldırısıyla doğruluk yaklaşık olarak 0.0428 ve ASR 0.9564 idi; bu nedenle saldırı kolayca algılanabilirken, %1 FP saldırısında doğruluk ve ASR yaklaşık olarak 0.9600 idi, bu nedenle FP saldırıları zor algılanır. Farklı zehirleme yüzdeleriyle deneyi tekrarladık.
Özet (Çeviri)
Federated Learning (FL) illustrates an approach in machine learning (ML) that assists joint model training across various decentralized devices or edge servers, eradicating the need to share raw data. Over the cross of the recurring process of model updates shared between clients and servers, the exposure of both data and models to diverse data-poisoning attacks becomes apparent. Our diligence involves two varied types of data-poisoning attacks: label flipping (LF) and feature poisoning (FP), infused with a pioneering methodology. The datasets used, namely CIC (Leevy, 2020) and UNSW (Moustafa, 2015) , belong to computer networks. The experimental results exhibited significant disparities in model accuracy between benign and malicious datasets. Interestingly, with a 1% LF attack on the CIC dataset, the accuracy was approximately 0.0428 with an ASR of 0.9564, rendering it quite easily detectable. Contrarily, a 1% FP attack resulted in both accuracy and ASR reaching approximately 0.9600, highlighting the complex challenge in detecting FP attacks. Further investigations were conducted across varying poisoning percentages to deepen our understanding about the data poisoning attacks.
Benzer Tezler
- Anlamsal Veb uyumlu etmenler için bir ontoloji yönetim sisteminin geliştirilmesi
Development of an ontology management system for semantic Web enabled agents
OYLUM ALATLI
Doktora
Türkçe
2015
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolEge ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. RIZA CENK ERDUR
- Açık bağlı veri sistemlerinde köken bazlı erişim gerçekleştirimi
Provenance-aware query execution in open linked data systems
FATİH TEKBACAK
Doktora
Türkçe
2015
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolEge ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. OĞUZ DİKENELLİ
- A new framework for decentralized social networks: Harnessing blockchain, deep learning, and natural language processing
Merkezsiz sosyal ağlar için yeni bir çerçeve: Blok zinciri, derin öğrenme ve doğal dil işlemeyi kullanmak
AMIR AL KADAH
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiYazılım Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ DENİZ BALTA
- Milli Görüş Hareketi'nin Kıbrıs politikası
Cyprus policy of the Milli Görüş Movement
EMİN FURKAN ÇELİK
Yüksek Lisans
Türkçe
2024
Siyasal BilimlerKırklareli ÜniversitesiSiyaset Bilimi ve Kamu Yönetimi Ana Bilim Dalı
DOÇ. DR. BAKİ ÇAKIR
- Network-aware federated neural architecture search
Ağ duyarlı federe sinir mimarisi araması
GÖKTUĞ ÖCAL
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ BAHRİ ATAY ÖZGÖVDE