Federeated learning under attack: Exposing vulenrabilites through data poisoning attacks in computer networks
Saldırı altında federasyonu öğrenme: Bilgisayar ağlarındaki veri zehirlendirme saldırıları yoluyla hassasiyetleri açığa çıkarmak
- Tez No: 855998
- Danışmanlar: Dr. EHSAN NOWROOZİ
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Federated learning, Nedeniyet saldırıları, Düşmanca makine öğrenimi, Bozulmuş eğitim setleri, Siber güvenlik, Veri zehirlenmesi, Causative Attacks, Federated learning, Adversarial Machine Learning, Cybersecurity, Data- Poisoning Attacks
- Yıl: 2024
- Dil: İngilizce
- Üniversite: Bahçeşehir Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Bilgisayar Ana Bilim Dalı
- Bilim Dalı: Siber Güvenlik Bilim Dalı
- Sayfa Sayısı: 61
Özet
Federated Learning (FL), çoklu merkezsiz cihazların veya kenar sunucuların ham veri değişiminde bulunmadan ortak bir modeli işbirliği ile eğitebildiği bir makine öğrenimi (ML) yaklaşımıdır. İstemciler ve sunucular arasında model güncellemeleri paylaşılırken, veri ve modeller farklı veri-zehirleme saldırılarına maruz kalabilir. Bu çalışmada, bilgisayar ağı alanında veri zehirlenme saldırılarının ciddiyetini keşfetmek amacımız, çünkü uygulamaları kolay ancak tespiti zordur. İki tür veri- zehirlenme saldırısını, etiket değiştirme (LF) ve özellik zehirlenmesi (FP) türlerini düşündük ve bunları yeni bir yaklaşımla uyguladık. LF'de, ham verilerin etiketlerini rastgele çevirdik ve modele manipüle edilmiş veri üzerinde eğitim verdik. FP için, Random Forest algoritması kullanılarak belirlenen yüksek katkı sağlayan özellikleri rastgele manipüle ettik. Bu deneyde kullanılan veri setleri, bilgisayar ağlarıyla ilişkili olan CIC (Leevy, 2020) ve UNSW (Moustafa, 2015) idi. Yukarıda bahsedilen iki saldırı türüyle düşmanca örnekler oluşturduk ve bu, veri setlerinin küçük bir yüzdesine uygulandı. Daha sonra, modelin doğruluğunu düşmanca veri setleri üzerinde eğittik ve test ettik. 8 Her iki iyiniyetli ve manipüle edilmiş veri setleri için sonuçları kaydettik ve farklı veri setlerindeki model doğruluğu arasında önemli farklılıklar olduğunu gözlemledik. Deneysel sonuçlardan, LF saldırısının başarısız olduğu, FP saldırısının ise etkili sonuçlar gösterdiği ve bu durumun bir sunucuyu kandırmada önemini kanıtladığı açıktır. CIC'de %1 LF saldırısıyla doğruluk yaklaşık olarak 0.0428 ve ASR 0.9564 idi; bu nedenle saldırı kolayca algılanabilirken, %1 FP saldırısında doğruluk ve ASR yaklaşık olarak 0.9600 idi, bu nedenle FP saldırıları zor algılanır. Farklı zehirleme yüzdeleriyle deneyi tekrarladık.
Özet (Çeviri)
Federated Learning (FL) illustrates an approach in machine learning (ML) that assists joint model training across various decentralized devices or edge servers, eradicating the need to share raw data. Over the cross of the recurring process of model updates shared between clients and servers, the exposure of both data and models to diverse data-poisoning attacks becomes apparent. Our diligence involves two varied types of data-poisoning attacks: label flipping (LF) and feature poisoning (FP), infused with a pioneering methodology. The datasets used, namely CIC (Leevy, 2020) and UNSW (Moustafa, 2015) , belong to computer networks. The experimental results exhibited significant disparities in model accuracy between benign and malicious datasets. Interestingly, with a 1% LF attack on the CIC dataset, the accuracy was approximately 0.0428 with an ASR of 0.9564, rendering it quite easily detectable. Contrarily, a 1% FP attack resulted in both accuracy and ASR reaching approximately 0.9600, highlighting the complex challenge in detecting FP attacks. Further investigations were conducted across varying poisoning percentages to deepen our understanding about the data poisoning attacks.
Benzer Tezler
- Simultaneous transmission based communication techniques
Eş zamanlı ̇iletime dayalı haberleşme sistemleri ̇
UFUK ALTUN
Yüksek Lisans
İngilizce
2020
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. GÜNEŞ ZEYNEP KARABULUT KURT
DOÇ. DR. ENVER ÖZDEMİR
- FLAGS framework and decentralized federated learning under device volatility
FLAGS platformu ve cihaz dalgalanması durumunda merkeziyetsiz federe öğrenme
AHNAF HANNAN LODHI
Doktora
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKoç ÜniversitesiBilgisayar Bilimleri ve Mühendisliği Ana Bilim Dalı
PROF. DR. ÖZNUR ÖZKASAP
YRD. DOÇ. DR. BARIŞ AKGÜN
- Unveiling the wireless network limitations in federated learning
Kablosuz internet ağlarındaki kısıtların federe öğrenmeye olan etkilerinin ortaya çıkarılması
MÜMTAZ CEM ERİŞ
Yüksek Lisans
İngilizce
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. SEMA FATMA OKTUĞ
DOÇ. DR. BURAK KANTARCI
- Age of information and unbiased federated learning in energy harvesting error-prone channels
Hataya açık kanallar üzerinde enerji hasadı ile tarafsız federe öğrenme ve bilgi yaşı
ZEYNEP ÇAKIR
Yüksek Lisans
İngilizce
2022
Elektrik ve Elektronik MühendisliğiOrta Doğu Teknik ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ ELİF TUĞÇE CERAN ARSLAN
- Görüntü dönüştürücüler kullanılarak retina hastalıklarının tespiti için federe öğrenme
Federated learning for retinal disease detection using vision transformers
SAİD AKÇA
Yüksek Lisans
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya Uygulamalı Bilimler ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. ZEYNEP GARİP
DOÇ. DR. EKİN EKİNCİ