Geri Dön

Designing intelligent Byzantines: Fall of robust aggregators in federated learning

Akıllı Bizans saldırıları tasarlamak: Federasyonlu öğrenmede dayanıklı toplayıcıların çöküşü

PDF İndir

  1. Tez No: 905045
  2. Yazar: AHMET KEREM ÖZFATURA
  3. Danışmanlar: DOÇ. DR. ALPTEKİN KÜPÇÜ
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2024
  8. Dil: İngilizce
  9. Üniversite: Koç Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: Belirtilmemiş.

Özet

Federasyonlu öğrenmede (FL), her istemciyi profillemek ve doğrulamak zordur ve bu da Bizans saldırganı olarak adlandırılan kötü niyetli istemcilerin eğitim sırasında zehirli modeller ileterek eğitilen modelin doğruluğunu engelleyebileceği bir güvenlik tehdidine yol açar. Bu nedenle, parametre sunucusundaki toplama işlemi kötü niyetli istemcilerin zararlı etkilerini en aza indirmeyi hedeflemelidir. Bizans sorunu genellikle istatistiksel aykırı değer tespiti perspektifinden analiz edilir ve eğitilen sinir ağının mimarisinden habersizdir. Bu çalışmada, öncelikle sağlam toplayıcıların, özellikle CC çerçevesinin güvenlik açıklarını ortaya koyuyoruz ve son teknoloji sağlam toplayıcıların savunmalarını aşabilecek yeni saldırı stratejileri sunuyoruz. Daha sonra, kullanılan sinir ağının mimarisine özgü belirli bir yan bilgi çıkarılarak daha da güçlü saldırılar tasarlanabileceğini savunuyoruz. Bu nedenle, seyrek sinir ağlarından esinlenerek, her biri farklı bir savunma mekanizmasını hedefleyen iki parçadan oluşan bir hibrit seyrek Bizans saldırısı sunuyoruz: yalnızca belirli NN parametrelerine daha yüksek hassasiyetle saldıran seyrek bir parça ve daha sessiz ancak zamanla biriken diğer parça. Ardından, önerilen ve diğer mevcut Bizans saldırılarına karşı etkili olan yeni, sağlam ve hızlı bir savunma mekanizması öneriyoruz. Kodumuz herkese açıktır https://github.com/CRYPTO-KU/FL-Byzantine-Library

Özet (Çeviri)

In federated learning (FL), it is difficult to profile and verify each client, leading to a security threat, where by malicious clients, called Byzantines, may hamper the accuracy of the trained model by conveying poisoned models during training. Hence, the aggregation process at the parameter server should aim to minimize the detrimental effects of malicious clients. The Byzantine problem is typically analyzed from an outlier detection perspective, and is oblivious to the architecture of the neural network (NN) being trained. In this work, we first expose vulnerabilities of the robust aggregators, specifically the CC framework, and introduce novel attack strategies that can circumvent the defences of the state-of-the-art robust aggregators. Later, we argue that by extracting certain side information specific to the NN architecture, one can design even stronger attacks. Hence, inspired by sparse neural networks, we introduce a hybrid sparse Byzantine attack that is composed of two parts each targeting a different type of defence mechanism: one sparse part that attacks only certain NN parameters with higher sensitivity, and the other being more silent but accumulating over time. Then, we propose a new robust and fast defence mechanism that is effective against the proposed and other existing Byzantine attacks. Our code is publicly available here https://github.com/CRYPTO-KU/FL-Byzantine-Library

Benzer Tezler

  1. Tez No

    709900

    Designing an intelligent maintenance system for the industry 4.0 driven system

    Endüstri 4.0 odaklı sistem için akıllı bakım sistemi tasarlamak

    RODRİGO MARTİNS FERREİRA DE CARVALHO

    Yüksek Lisans

    İngilizce

    İngilizce

    2021

    Endüstri ve Endüstri MühendisliğiBahçeşehir Üniversitesi

    Mühendislik Bilimleri Ana Bilim Dalı

    PROF. DR. MUSTAFA ÖZBAYRAK

  2. Tez No

    693532

    Designing and evaluating intelligent home energy efficiency using iot routing protocols

    Iot yönlendirme protokollerini kullanarak akıllı ev enerji verimliliğinin tasarlanması ve değerlendirilmesi

    YASIR ABDULBARI ABDULLAH ABDULLAH

    Yüksek Lisans

    İngilizce

    İngilizce

    2021

    Bilim ve TeknolojiAltınbaş Üniversitesi

    Bilgi Teknolojileri Ana Bilim Dalı

    ASSOC. DR. ABDULLAHI ABDU IBRAHIM

  3. Tez No

    434021

    Network security: Attacks and defense mechanism by designing an intelligent firewall agent

    Ağ güvenliği: Saldırılar ve zeki güvenlik duvarı etmeni ile savunma mekanizmaları

    HAFUSWA NAKATO

    Yüksek Lisans

    İngilizce

    İngilizce

    2016

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. İSMAİL HAKKI CEDİMOĞLU

  4. Tez No

    201562

    Stereotip öğrenci modeli kullanarak zeki öğretim sistemi tasarımı

    Designing intelligent tutoring system with using stereotype student model

    FERHAT TURAN

    Yüksek Lisans

    Türkçe

    Türkçe

    2007

    Eğitim ve ÖğretimMarmara Üniversitesi

    Elektronik-Bilgisayar Eğitimi Ana Bilim Dalı

    PROF. DR. A. YILMAZ ÇAMURCU

  5. Tez No

    316291

    Atölye maliyetini azaltma ve verimliliğini artırmaya yönelik akıllı bilgi yönetim sistemi tasarımı

    Designing intelligent information management system intended for increasing efficiency and decreasing cost in workshops

    BEYZA YAMAN

    Yüksek Lisans

    Türkçe

    Türkçe

    2012

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKarabük Üniversitesi

    Yazılım Mühendisliği Ana Bilim Dalı

    YRD. DOÇ. İLHAMİ M. ORAK

Geri Dön