Cluster-based scoring for malicious model detection in federated learning
Federe öğrenmede zararlı modellerin tespiti için kümeleme tabanlı skorlama
- Tez No: 807217
- Danışmanlar: PROF. DR. ARDA YURDAKUL
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2023
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Federe öğrenme, küresel bir model elde etmek için her istemci modelini bir sunucuda toplayan dağıtılmış bir makine öğrenimi tekniğidir. Ancak, bazı istemciler modellerini veya verilerini zehirleyerek küresel modeli istenenden alakasız hale getirebilir ve sisteme zarar verebilir. Bu tez, sunucu için koordinat tabanlı istatistiksel karşılaştırma yoluyla zehirli modelleri tespit etmesi ve bunları birleştirme öncesinde sistemden uzaklaştırması için bir yaklaşım sunmaktadır. Koruma mekanizmasından kaçınmak için zararlı istemcilerin modelin daha az bir kısmını zehirlediği saldırı türü olan Katman Zehirlemesi de tanıtılmıştır. Farklı saldırı türlerine ve ağlara karşı koruma mekanizmasının sağlamlığını teyit etmek için uyarlanabilir eşik değeri uygulanmıştır. Önerilen yöntemin başarımını ölçmek için dağınık bir test ortamı tasarlanmıştır. Bazı istemciler, diğerlerinden daha yavaş öğrense veya enerji sınırlamaları nedeniyle nicelenmiş model parametreleri gönderse bile kötü niyetli cihazları başarılı bir şekilde belirleyebildiğini göstermek için farklı küme boyutlarına sahip, rastgele örneklenmiş bağlantılı veri kümelerini kullanan deneyler yapılmıştır. Ayrıca, koruma sisteminin detaylı analizi için farklı kötü niyetli cihaz sayıları, model türleri ve veri kümeleri ile denenmiştir. Sonuç olarak, sunulan korumanın, zararlı cihazların tüm istemcilere oranı %45'e kadar olduğunda zararlı modelleri tespit edebildiği ve sistemden uzaklaştırabilmeyi başarabildiği görülmüştür. Sunulan çözümün, literatürden alınmış diğer koruma mekanizmalarıyla kıyaslaması yapılmış; bu sistemler ile aynı veya daha fazla koruma sağladığı gözlemlenmiştir.
Özet (Çeviri)
Federated learning is a distributed machine learning technique aggregating every client model on a server to obtain a global model. However, some clients may harm the system by poisoning their model or data to make the global model irrelevant to its objective. This thesis introduces an approach for the server to detect adversarial models by coordinate-based statistical comparison and eliminate them from the system prior to aggregation. A new attack type, layer poisoning, where the malicious nodes prefer poisoning selected small size layers of the model to deceive the detection system, is also introduced. Adaptive thresholding is adopted for preserving the robustness of the detection mechanism for various network against different attack types. A simulation framework is developed to benchmark and realize tests as a distributed system. Experiments that use random sampling of independent and identically distributed (iid) datasets with different batch sizes have been carried out to show that the proposed method can identify the malicious nodes successfully even if some of the clients learn slower than others or send quantized model weights due to energy limitations. The proposed approach is extensively tested with malicious-benign client ratios, model types, and datasets to present its versatility. The results show that the proposed system successfully eliminates the malicious models when their generating clients constitute at most 45% of the network. Comparison with the approaches from the literature shows that the proposed method performs the same as or better than the state of art solutions.
Benzer Tezler
- Improving recursive cluster elimination approaches for gene expression analysis
Gen ifade miktarı verisi analizi için yinelemeli öbek eliminasyon yöntemlerinin iyileştirilmesi
CİHAN KUZUDİŞLİ
Doktora
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolAbdullah Gül ÜniversitesiElektrik ve Bilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. BURCU GÜNGÖR
- Derin öğrenmeye dayalı olarak yeni nesil dizileme verilerinin kümelenmesi
Clustering next generation sequencing data based on deep learning
UĞUR TOPRAK
Doktora
Türkçe
2022
BiyoistatistikAnkara ÜniversitesiBiyoistatistik Ana Bilim Dalı
DOÇ. DR. BEYZA DOĞANAY ERDOĞAN
- Makine öğrenmesi tabanlı öğrenci bilişsel profilleri: Geleneksel ölçme sistemlerine alternatif bir paradoksal başarı çerçevesi
Machine learning based student cognitive profiling: An alternative paradoxical success framework to traditional assessment systems
ÖZGE KOYUN
Yüksek Lisans
Türkçe
2026
MatematikYıldız Teknik ÜniversitesiMatematik Ana Bilim Dalı
DOÇ. DR. MUTTALİP ÖZAVŞAR
- Identifying transversal skills for developing a culturally responsive EFL teaching habitus via mixed methods research
Kültürlere duyarlı İngilizce öğretim habitusu geliştirmek için gerekli çapraz becerilerin karma yöntem araştırması ile belirlenmesi
SEMİH KAYGISIZ
Doktora
İngilizce
2024
Eğitim ve ÖğretimOrta Doğu Teknik ÜniversitesiEğitim Bilimleri Ana Bilim Dalı
PROF. DR. HANİFE AKAR
- Identification of functionally orthologous protein groups in different species based on protein network alignment
Farklı türlerde bulunan fonksiyonel olarak ortolog olan protein gruplarının protein ağlarının hizalanmasına dayalı olarak belirlenmesi
ÖMER NEBİL YAVEROĞLU
Yüksek Lisans
İngilizce
2010
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik ÜniversitesiBilgisayar Mühendisliği Bölümü
YRD. DOÇ. DR. TOLGA CAN