Geri Dön

Byzantine attack robust federated learning

Bizans saldırısına dayanıklı federe öğrenme

  1. Tez No: 694530
  2. Yazar: ECE IŞIK POLAT
  3. Danışmanlar: DOÇ. DR. ALTAN KOÇYİĞİT
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Bilim ve Teknoloji, Computer Engineering and Computer Science and Control, Science and Technology
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2021
  8. Dil: İngilizce
  9. Üniversite: Orta Doğu Teknik Üniversitesi
  10. Enstitü: Enformatik Enstitüsü
  11. Ana Bilim Dalı: Bilişim Sistemleri Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 110

Özet

Federe öğrenmede, katılımcılar yerel verilerini paylaşmadan, toplu olarak, küresel bir modeli eğitirler. Katılımcıların yerel eğitim süreçlerinden elde edilen yerel model parametreleri, global modeli oluşturmak üzere güvenilir bir sunucuda toplanır. Gizliliği korumak adına, güvenilir sunucunun eğitim prosedürü üzerinde hiçbir yetkisi yoktur. Bu nedenle, küresel model, veri zehirlenmesi ve model zehirlenmesi gibi saldırılara karşı savunmasızdır. Bu saldırılara karşı birçok savunma stratejisi önerilmiş olsa da bu stratejiler çoğu zaman federe öğrenmenin karakteristiğiyle uyumlu olmayan güçlü varsayımlarda bulunurlar. Bu çalışmalar çoğunlukla kapsamlı deneysel analizler de yapmamışlardır. Bu tezde, BARFED (Bizans Saldırısına Dayanıklı Federe Öğrenim) adı verilen varsayımdan bağımsız bir savunma mekanizması öneriyorum. BARFED, kötü niyetli katılımcı oranı, katılımcıların verilerinin dağılımları ve gradyan güncelleme benzerliği gibi federe öğrenme ortamı hakkında varsayımda bulunmaz. BARFED, küresel model ile katılımcıların yerel modelleri arasındaki mesafeyi katman bazında inceler ve katılımcıların aykırı değer olması durumuna göre ana model toplama kuralı adımına katılıp katılmayacağına karar verir. Başka bir deyişle, yalnızca model mimarisinin herhangi bir katmanında aykırı değer olarak etiketlenmeyen katılımcılar toplama adımına katılabilir. Data dağılımı, saldırganların organize olup olmadığı gibi birçok yönü kapsayan kapsamlı deneyler yaparak BARFED'in farklı saldırılara karşı güçlü bir savunma sağladığını gösteriyorum.

Özet (Çeviri)

In federated learning (FL), collaborators train a global model collectively without sharing their local data. The local model parameters of the collaborators obtained from their local training process are collected on a trusted server to form the global model. In order to preserve privacy, the server has no authority over the local training procedure. Therefore, the global model is vulnerable to attacks such as data poisoning and model poisoning. Even though many defense strategies have been proposed against these attacks, they often make strong assumptions that are not compatible with the characteristics of FL. Moreover, these proposals have not been analyzed thoroughly. In this thesis, I propose an assumption-free defense mechanism called Byzantine Attack Robust Federated Learning (BARFED). BARFED does not make assumption about federated learning setting such as malicious collaborator ratio, the data distributions of the collaborators, and gradient update similarity. BARFED examines the distance between the global model and the local models of the collaborators on a layer basis and decides whether the collaborators will participate in the aggregation rule step phase based on the status of being an outlier. In other words, only the collaborators that are not labeled as outliers in any layer of the model architecture can participate in the aggregation step. I have shown that BARFED provides a robust defense against different attacks by performing comprehensive experiments that cover many aspects such as data distribution and whether attackers are organized or not.

Benzer Tezler

  1. Designing intelligent Byzantines: Fall of robust aggregators in federated learning

    Akıllı Bizans saldırıları tasarlamak: Federasyonlu öğrenmede dayanıklı toplayıcıların çöküşü

    AHMET KEREM ÖZFATURA

    Yüksek Lisans

    İngilizce

    İngilizce

    2024

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKoç Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DOÇ. DR. ALPTEKİN KÜPÇÜ

  2. Reputation-based proof-of-stake

    İtibar tabanlı hisse kanıtı

    CELAL BERKAY YELKEN

    Yüksek Lisans

    İngilizce

    İngilizce

    2023

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolAnkara Yıldırım Beyazıt Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ FAHREDDİN ŞÜKRÜ TORUN

  3. Seyfüddevle ve Anadolu seferleri

    Sayf addawla and war of the Anatolia

    EDİP AKYOL

    Yüksek Lisans

    Türkçe

    Türkçe

    2007

    TarihSelçuk Üniversitesi

    İslam Tarihi ve Sanatları Ana Bilim Dalı

    DOÇ.DR. MEHMET BAHAÜDDİN VAROL

  4. Improvement of performance and capacities of wireless ad hoc networks

    Telsiz ad hoc ağların başarım ve kapasitelerinin arttırılması

    HANDE BAKİLER

    Yüksek Lisans

    İngilizce

    İngilizce

    2014

    Elektrik ve Elektronik MühendisliğiBaşkent Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    YRD. DOÇ. DR. AYSEL ŞAFAK

  5. Tuğrul ve Çağrı Beyler Döneminde Anadolu seferleri

    Anatolian raids in the Periods of Tuğrul and Çağrı

    ÖZGÜR DENİZOĞLU

    Yüksek Lisans

    Türkçe

    Türkçe

    2011

    TarihErciyes Üniversitesi

    Tarih Ana Bilim Dalı

    PROF. DR. ABDULKADİR YUVALI