Geri Dön

Federeated learning under attack: Exposing vulenrabilites through data poisoning attacks in computer networks

Saldırı altında federasyonu öğrenme: Bilgisayar ağlarındaki veri zehirlendirme saldırıları yoluyla hassasiyetleri açığa çıkarmak

  1. Tez No: 855998
  2. Yazar: IMRAN HAIDER
  3. Danışmanlar: Dr. EHSAN NOWROOZİ
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Federated learning, Nedeniyet saldırıları, Düşmanca makine öğrenimi, Bozulmuş eğitim setleri, Siber güvenlik, Veri zehirlenmesi, Causative Attacks, Federated learning, Adversarial Machine Learning, Cybersecurity, Data- Poisoning Attacks
  7. Yıl: 2024
  8. Dil: İngilizce
  9. Üniversite: Bahçeşehir Üniversitesi
  10. Enstitü: Lisansüstü Eğitim Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Ana Bilim Dalı
  12. Bilim Dalı: Siber Güvenlik Bilim Dalı
  13. Sayfa Sayısı: 61

Özet

Federated Learning (FL), çoklu merkezsiz cihazların veya kenar sunucuların ham veri değişiminde bulunmadan ortak bir modeli işbirliği ile eğitebildiği bir makine öğrenimi (ML) yaklaşımıdır. İstemciler ve sunucular arasında model güncellemeleri paylaşılırken, veri ve modeller farklı veri-zehirleme saldırılarına maruz kalabilir. Bu çalışmada, bilgisayar ağı alanında veri zehirlenme saldırılarının ciddiyetini keşfetmek amacımız, çünkü uygulamaları kolay ancak tespiti zordur. İki tür veri- zehirlenme saldırısını, etiket değiştirme (LF) ve özellik zehirlenmesi (FP) türlerini düşündük ve bunları yeni bir yaklaşımla uyguladık. LF'de, ham verilerin etiketlerini rastgele çevirdik ve modele manipüle edilmiş veri üzerinde eğitim verdik. FP için, Random Forest algoritması kullanılarak belirlenen yüksek katkı sağlayan özellikleri rastgele manipüle ettik. Bu deneyde kullanılan veri setleri, bilgisayar ağlarıyla ilişkili olan CIC (Leevy, 2020) ve UNSW (Moustafa, 2015) idi. Yukarıda bahsedilen iki saldırı türüyle düşmanca örnekler oluşturduk ve bu, veri setlerinin küçük bir yüzdesine uygulandı. Daha sonra, modelin doğruluğunu düşmanca veri setleri üzerinde eğittik ve test ettik. 8 Her iki iyiniyetli ve manipüle edilmiş veri setleri için sonuçları kaydettik ve farklı veri setlerindeki model doğruluğu arasında önemli farklılıklar olduğunu gözlemledik. Deneysel sonuçlardan, LF saldırısının başarısız olduğu, FP saldırısının ise etkili sonuçlar gösterdiği ve bu durumun bir sunucuyu kandırmada önemini kanıtladığı açıktır. CIC'de %1 LF saldırısıyla doğruluk yaklaşık olarak 0.0428 ve ASR 0.9564 idi; bu nedenle saldırı kolayca algılanabilirken, %1 FP saldırısında doğruluk ve ASR yaklaşık olarak 0.9600 idi, bu nedenle FP saldırıları zor algılanır. Farklı zehirleme yüzdeleriyle deneyi tekrarladık.

Özet (Çeviri)

Federated Learning (FL) illustrates an approach in machine learning (ML) that assists joint model training across various decentralized devices or edge servers, eradicating the need to share raw data. Over the cross of the recurring process of model updates shared between clients and servers, the exposure of both data and models to diverse data-poisoning attacks becomes apparent. Our diligence involves two varied types of data-poisoning attacks: label flipping (LF) and feature poisoning (FP), infused with a pioneering methodology. The datasets used, namely CIC (Leevy, 2020) and UNSW (Moustafa, 2015) , belong to computer networks. The experimental results exhibited significant disparities in model accuracy between benign and malicious datasets. Interestingly, with a 1% LF attack on the CIC dataset, the accuracy was approximately 0.0428 with an ASR of 0.9564, rendering it quite easily detectable. Contrarily, a 1% FP attack resulted in both accuracy and ASR reaching approximately 0.9600, highlighting the complex challenge in detecting FP attacks. Further investigations were conducted across varying poisoning percentages to deepen our understanding about the data poisoning attacks.

Benzer Tezler

  1. Simultaneous transmission based communication techniques

    Eş zamanlı ̇iletime dayalı haberleşme sistemleri ̇

    UFUK ALTUN

    Yüksek Lisans

    İngilizce

    İngilizce

    2020

    Elektrik ve Elektronik Mühendisliğiİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    PROF. DR. GÜNEŞ ZEYNEP KARABULUT KURT

    DOÇ. DR. ENVER ÖZDEMİR

  2. FLAGS framework and decentralized federated learning under device volatility

    FLAGS platformu ve cihaz dalgalanması durumunda merkeziyetsiz federe öğrenme

    AHNAF HANNAN LODHI

    Doktora

    İngilizce

    İngilizce

    2023

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKoç Üniversitesi

    Bilgisayar Bilimleri ve Mühendisliği Ana Bilim Dalı

    PROF. DR. ÖZNUR ÖZKASAP

    YRD. DOÇ. DR. BARIŞ AKGÜN

  3. Unveiling the wireless network limitations in federated learning

    Kablosuz internet ağlarındaki kısıtların federe öğrenmeye olan etkilerinin ortaya çıkarılması

    MÜMTAZ CEM ERİŞ

    Yüksek Lisans

    İngilizce

    İngilizce

    2022

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. SEMA FATMA OKTUĞ

    DOÇ. DR. BURAK KANTARCI

  4. Age of information and unbiased federated learning in energy harvesting error-prone channels

    Hataya açık kanallar üzerinde enerji hasadı ile tarafsız federe öğrenme ve bilgi yaşı

    ZEYNEP ÇAKIR

    Yüksek Lisans

    İngilizce

    İngilizce

    2022

    Elektrik ve Elektronik MühendisliğiOrta Doğu Teknik Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ ELİF TUĞÇE CERAN ARSLAN

  5. Görüntü dönüştürücüler kullanılarak retina hastalıklarının tespiti için federe öğrenme

    Federated learning for retinal disease detection using vision transformers

    SAİD AKÇA

    Yüksek Lisans

    Türkçe

    Türkçe

    2024

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya Uygulamalı Bilimler Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DOÇ. DR. ZEYNEP GARİP

    DOÇ. DR. EKİN EKİNCİ