Geri Dön

Designing intelligent Byzantines: Fall of robust aggregators in federated learning

Akıllı Bizans saldırıları tasarlamak: Federasyonlu öğrenmede dayanıklı toplayıcıların çöküşü

PDF İndir

  1. Tez No: 905045
  2. Yazar: AHMET KEREM ÖZFATURA
  3. Danışmanlar: DOÇ. DR. ALPTEKİN KÜPÇÜ
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2024
  8. Dil: İngilizce
  9. Üniversite: Koç Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 94

Özet

Federasyonlu öğrenmede (FL), her istemciyi profillemek ve doğrulamak zordur ve bu da Bizans saldırganı olarak adlandırılan kötü niyetli istemcilerin eğitim sırasında zehirli modeller ileterek eğitilen modelin doğruluğunu engelleyebileceği bir güvenlik tehdidine yol açar. Bu nedenle, parametre sunucusundaki toplama işlemi kötü niyetli istemcilerin zararlı etkilerini en aza indirmeyi hedeflemelidir. Bizans sorunu genellikle istatistiksel aykırı değer tespiti perspektifinden analiz edilir ve eğitilen sinir ağının mimarisinden habersizdir. Bu çalışmada, öncelikle sağlam toplayıcıların, özellikle CC çerçevesinin güvenlik açıklarını ortaya koyuyoruz ve son teknoloji sağlam toplayıcıların savunmalarını aşabilecek yeni saldırı stratejileri sunuyoruz. Daha sonra, kullanılan sinir ağının mimarisine özgü belirli bir yan bilgi çıkarılarak daha da güçlü saldırılar tasarlanabileceğini savunuyoruz. Bu nedenle, seyrek sinir ağlarından esinlenerek, her biri farklı bir savunma mekanizmasını hedefleyen iki parçadan oluşan bir hibrit seyrek Bizans saldırısı sunuyoruz: yalnızca belirli NN parametrelerine daha yüksek hassasiyetle saldıran seyrek bir parça ve daha sessiz ancak zamanla biriken diğer parça. Ardından, önerilen ve diğer mevcut Bizans saldırılarına karşı etkili olan yeni, sağlam ve hızlı bir savunma mekanizması öneriyoruz. Kodumuz herkese açıktır https://github.com/CRYPTO-KU/FL-Byzantine-Library

Özet (Çeviri)

In federated learning (FL), it is difficult to profile and verify each client, leading to a security threat, where by malicious clients, called Byzantines, may hamper the accuracy of the trained model by conveying poisoned models during training. Hence, the aggregation process at the parameter server should aim to minimize the detrimental effects of malicious clients. The Byzantine problem is typically analyzed from an outlier detection perspective, and is oblivious to the architecture of the neural network (NN) being trained. In this work, we first expose vulnerabilities of the robust aggregators, specifically the CC framework, and introduce novel attack strategies that can circumvent the defences of the state-of-the-art robust aggregators. Later, we argue that by extracting certain side information specific to the NN architecture, one can design even stronger attacks. Hence, inspired by sparse neural networks, we introduce a hybrid sparse Byzantine attack that is composed of two parts each targeting a different type of defence mechanism: one sparse part that attacks only certain NN parameters with higher sensitivity, and the other being more silent but accumulating over time. Then, we propose a new robust and fast defence mechanism that is effective against the proposed and other existing Byzantine attacks. Our code is publicly available here https://github.com/CRYPTO-KU/FL-Byzantine-Library

Benzer Tezler

  1. Tez No

    432327

    Uzuv işlev bozukluğuna sahip hastalar için öğrenebilen zeki kontrolcü tasarımı

    Designing intelligent controller design for patients has malfunction at joints

    AHMET KIRNAP

    Yüksek Lisans

    Türkçe

    Türkçe

    2016

    Mühendislik BilimleriErciyes Üniversitesi

    Mekatronik Mühendisliği Ana Bilim Dalı

    DOÇ. DR. İKBAL ESKİ

  2. Tez No

    201562

    Stereotip öğrenci modeli kullanarak zeki öğretim sistemi tasarımı

    Designing intelligent tutoring system with using stereotype student model

    FERHAT TURAN

    Yüksek Lisans

    Türkçe

    Türkçe

    2007

    Bilim ve TeknolojiMarmara Üniversitesi

    Elektronik-Bilgisayar Eğitimi Ana Bilim Dalı

    PROF. DR. A. YILMAZ ÇAMURCU

  3. Tez No

    316291

    Atölye maliyetini azaltma ve verimliliğini artırmaya yönelik akıllı bilgi yönetim sistemi tasarımı

    Designing intelligent information management system intended for increasing efficiency and decreasing cost in workshops

    BEYZA YAMAN

    Yüksek Lisans

    Türkçe

    Türkçe

    2012

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKarabük Üniversitesi

    Yazılım Mühendisliği Ana Bilim Dalı

    YRD. DOÇ. İLHAMİ M. ORAK

  4. Tez No

    402371

    Intelligent hyper-heuristics: A tool for solving generic optimisation problems

    Başlık çevirisi yok

    MUSTAFA MISIR

    Doktora

    İngilizce

    İngilizce

    2012

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKatholieke Universiteit Leuven (Catholic University of Leuven)

    PROF. DR. PATRICK DE CAUSMAECKER

  5. Tez No

    378411

    Intelligent design of intensity modulated fiber optic sensors using different fiber structures

    Yoğunluk modülasyonlu fiber optik sensörlerin farklı fiber yapılar kullanarak akıllı tasarımı

    HASAN SEÇKİN EFENDİOĞLU

    Doktora

    İngilizce

    İngilizce

    2014

    Elektrik ve Elektronik MühendisliğiYıldız Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    PROF. DR. TÜLAY YILDIRIM

Geri Dön