Federe öğrenme mimarisinde veriden habersiz ilişkisel sınıflandırma yöntemi ile eğitilmiş modeller için unutma: Yeni bir makine unutması yaklaşımı
Forgetting for models trained with a data-unaware association classification method in federated learning architecture: A novel machine unlearning approach
- Tez No: 1018401
- Danışmanlar: PROF. DR. KAZIM YILDIZ, DR. ÖĞR. ÜYESİ GÖZDE KARATAŞ BAYDOĞMUŞ
- Tez Türü: Doktora
- Konular: Bilim ve Teknoloji, Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Science and Technology, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2026
- Dil: Türkçe
- Üniversite: Marmara Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Federe öğrenme mimarileri, kullanıcı verilerini merkezi sunucuya taşımadan model eğitimi gerçekleştirebildiği için veri gizliliği açısından önemli avantajlar sunmaktadır. Ancak bu mimarilerde, kullanıcıların sistemden ayrılması veya verilerinin silinmesini talep etmesi durumunda, ilgili verinin model üzerindeki etkisinin tamamen kaldırılması önemli bir problem oluşturmaktadır. Geleneksel yeniden eğitim tabanlı yaklaşımlar yüksek hesaplama maliyeti, iletişim yükü ve zaman gereksinimi nedeniyle büyük ölçekli federe sistemlerde uygulanabilir değildir. Bu tez çalışmasında, federe öğrenme mimarileri için ilişkisel sınıflandırma tabanlı yeni bir federe birleştirme algoritması olan Federated Classification Based on Associations (FedCBA) ve bu yapı üzerine geliştirilen veriden habersiz federe unutma yaklaşımı olan Federated Forgetting (FedFORGET) önerilmiştir. Önerilen mimari, istemcilerden elde edilen yerel Classification Based on Associations (CBA) ile eğitilmiş modellerin merkezi sunucuda kural tabanlı olarak birleştirilmesini sağlamakta ve unutma işlemlerini orijinal verilere erişim gerektirmeden gerçekleştirebilmektedir. Ayrıca geliştirilen yaklaşım, kural tabanlı yapısı sayesinde açıklanabilir ve doğrulanabilir bir unutma mekanizması sunmaktadır. Çalışma kapsamında önerilen yöntemler; IBM İnsan Kaynakları Analitiği, Adult, Mushroom, Nursery ve Cars Evaluation veri setleri kullanılarak bağımsız ve özdeş dağılım (Independent and Identically Distributed - IID) ve bağımsız ve özdeş olmayan dağılım (Non-Independent and Non-Identically Distributed - Non-IID) veri yapıları altında test edilmiştir. Deneysel çalışmalar yalnızca simülasyon ortamında gerçekleştirilmemiş; Google Cloud tabanlı uygulama programlama arayüzü (Application Programming Interface - API) destekli dağıtık mimari ve Raspberry Pi tabanlı fiziksel istemci ortamlarında da uygulanmıştır. Böylece önerilen yaklaşımın gerçek dünya koşullarındaki uygulanabilirliği analiz edilmiştir. Elde edilen deneysel sonuçlar, FedCBA yaklaşımının farklı veri dağılımlarında kararlı performans sonuçları üretebildiğini göstermiştir. Özellikle Non-IID veri yapısında dahi global model performansının korunabildiği ve istemcilerden gelen yerel modellerin başarılı şekilde birleştirilebildiği gözlemlenmiştir. Gerçekleştirilen performans analizlerinde, FedCBA yaklaşımının diğer federe birleştirme yöntemleri ile benzer doğruluk seviyelerinde sonuçlar üretebildiği gözlemlenmiştir. FedFORGET sonuçları incelendiğinde, unutma işlemi sonrasında hedef istemci doğruluklarında belirgin düşüşler meydana gelirken global model performansının büyük ölçüde korunabildiği gözlemlenmiştir. Elde edilen sonuçlar, geliştirilen yöntemin hedef istemciye ait bilgiyi modelden başarıyla çıkarabildiğini göstermektedir. Ayrıca unutma işleminin hem yerel istemci verileri hem de global test verileri üzerinde etkili biçimde gerçekleştirildiği görülmüştür. Yeniden eğitim tabanlı yöntemlerle karşılaştırıldığında ise FedFORGET yaklaşımının önemli ölçüde zaman avantajı sağladığı ve modeli baştan eğitmeye ihtiyaç duymadan unutma işlemini gerçekleştirebildiği belirlenmiştir. Sonuç olarak bu tez çalışması, federe öğrenme mimarilerinde veri gizliliğini koruyarak çalışan, veriden habersiz ve istemci düzeyinde unutma gerçekleştirebilen yeni bir makine unutması yaklaşımı sunmaktadır. Ayrıca geliştirilen FedCBA ve FedFORGET yöntemlerinin yalnızca teorik değil, gerçek dağıtık sistem ortamlarında da uygulanabilir olduğu deneysel olarak gösterilmiş ve literatürdeki yeniden eğitim tabanlı unutma yöntemlerine alternatif bir çözüm sunduğu ortaya konulmuştur.
Özet (Çeviri)
Federated learning architectures provide significant advantages in terms of data privacy, as model training can be performed without transferring user data to a central server. However, in such architectures, completely removing the influence of a client's data from the trained model becomes a critical challenge when users leave the system or request the deletion of their data. Traditional retraining-based approaches are not practical for large-scale federated systems due to their high computational cost, communication overhead, and time requirements. In this dissertation, a novel rule-based federated aggregation algorithm, namely Federated Classification Based on Associations (FedCBA), and a data-unaware federated unlearning approach built upon this architecture, namely Federated Forgetting (FedFORGET), are proposed for federated learning environments. The proposed architecture enables the rule-based aggregation of locally trained Classification Based on Associations (CBA) models at the central server and performs unlearning operations without requiring access to the original training data. Furthermore, owing to its rule-based structure, the proposed approach provides an interpretable and verifiable unlearning mechanism. The proposed methods were evaluated using the IBM HR Analytics, Adult, Mushroom, Nursery, and Cars Evaluation datasets under both Independent and Identically Distributed (IID) and Non-Independent and Non-Identically Distributed (Non-IID) data distributions. Experimental studies were not limited to simulation environments; the proposed architecture was also implemented within a Google Cloud-based Application Programming Interface (API)-supported distributed system and Raspberry Pi-based physical client environments. In this way, the applicability of the proposed approach under real-world distributed system conditions was comprehensively analyzed. The experimental results demonstrated that the FedCBA approach was capable of producing stable performance across different data distributions. In particular, even under Non-IID data settings, the global model performance was largely preserved, and the local models received from clients were successfully aggregated. Performance analyses further revealed that the FedCBA approach achieved comparable accuracy levels to other federated aggregation methods. The results obtained from the FedFORGET experiments showed that while the target client accuracies significantly decreased after the unlearning process, the overall global model performance was largely maintained. These findings indicate that the proposed method successfully removes the contribution of the target client from the global model. In addition, the unlearning process was shown to operate effectively on both local client datasets and global test datasets. Compared with retraining-based approaches, the FedFORGET method provided a considerable time advantage and was able to perform unlearning without retraining the model from scratch. Consequently, this dissertation proposes a novel machine unlearning approach for federated learning architectures that preserves data privacy, operates in a data-unaware manner, and performs client-level unlearning. Furthermore, the experimental results demonstrated that the proposed FedCBA and FedFORGET methods are not only theoretically valid but also practically applicable in real distributed system environments, thereby offering an alternative solution to conventional retraining-based unlearning methods in the literature.
Benzer Tezler
- du-CBA: veriden habersiz ve artırımlı sınıflandırmaya dayalı birliktelik kuralları çıkarma mimarisi
du-CBA: data agnostic and incremental classification based association rules extraction architecture
BÜŞRA BÜYÜKTANIR
Yüksek Lisans
Türkçe
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolMarmara ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. KAZIM YILDIZ
DR. ÖĞR. ÜYESİ EYÜP EMRE ÜLKÜ
- Byzantine attack robust federated learning
Bizans saldırısına dayanıklı federe öğrenme
ECE IŞIK POLAT
Yüksek Lisans
İngilizce
2021
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik ÜniversitesiBilişim Sistemleri Ana Bilim Dalı
DOÇ. DR. ALTAN KOÇYİĞİT
- Traffic Flow Prediction Using Federated Learning
Birleşik öğrenme tabanlı trafik akışı tahmini
AYŞE ÖZTAN
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolÇankaya ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ SERDAR ARSLAN
DR. NURGÜL GÖKGÖZ KÜÇÜKSAKALLI
- Beyin MR görüntülerinden hastalık tespiti için federe öğrenme temelli yaklaşımların geliştirilmesi
Development of federated learning based approaches for disease detection from brain MRI images
YAŞAR BÜYÜKNACAR
Yüksek Lisans
Türkçe
2026
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKahramanmaraş Sütçü İmam ÜniversitesiBilişim Sistemleri Ana Bilim Dalı
DR. ÖĞR. ÜYESİ YAVUZ CANBAY
- Oto kodlayıcı ve parçalı ağ yapılarına dayalı dikey federe öğrenme modelleri geliştirilmesi
Development of vertical federated learning models based on autoencoders and split network structures
HAYRİ ÖZTÜRK
Yüksek Lisans
Türkçe
2026
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolErciyes ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. BAHRİYE AKAY