Geri Dön

Analyzing the impact of differential privacy on model convergence with federated learning

Federasyonlu öğrenme ile farklılaştırılmış gizliliğin model yakınsaması üzerindeki etkisinin analizi

PDF İndir

  1. Tez No: 956634
  2. Yazar: MOHAMAD BELAL ALKASSAB
  3. Danışmanlar: DR. ÖĞR. ÜYESİ ECE GELAL SOYAK
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Bilim ve Teknoloji, Computer Engineering and Computer Science and Control, Science and Technology
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2025
  8. Dil: İngilizce
  9. Üniversite: Bahçeşehir Üniversitesi
  10. Enstitü: Lisansüstü Eğitim Enstitüsü
  11. Ana Bilim Dalı: Yapay Zeka Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 52

Özet

Federasyonlu Öğrenme (FL), Makine Öğrenimi (ML) model eğitiminin birden fazla istemci arasında merkeziyetsiz olarak yürütülmesini ve bu modellerin kullanıcıların akıllı cihazlarında çalışmasını mümkün kılar. Bu modeller, kötü niyetli veya adaletsiz amaçlarla kullanılabilecek büyük miktarda özel veri toplar. Farklilaştirilmiş Gizlilik (DP), kullanıcı verilerinin belirli bir düzeyde gizli kalmasını sağlar. Ancak DP uygulaması, modele eklenen gürültü nedeniyle model faydasında ciddi bir düşüşe neden olabilir. Bu çalışma, MNIST ve CIFAR-10 görüntü veri kümeleri üzerinde evrişimli sinir ağları (CNN) ve önceden eğitilmiş Artık Sinir Ağı (ResNet) modelleri kullanarak FL'de fayda-gizlilik dengelerini incelemektedir. Opacus kütüphanesi aracılığıyla DP uygulanmakta ve model faydasını artırmak amacıyla Temperlenmiş Sigmoid (TS) aktivasyon fonksiyonları kullanılmaktadır. Çalışmada, merkezi ve federatif ortamlarda, 5 ve 10 istemcili ağlar üzerinden farklı gizlilik bütçelerinde performans karşılaştırmaları yapılmıştır. Ayrıca, farklı optimizasyon algoritmalarının ve seyreltme katmanlarının FL DP ortamındaki model performansına etkisi değerlendirilmiştir. FL ortamında DP uygulanırken karşılaşılan bazı zorluklar vurgulanmıştır. Sonuçlarımız, 5 istemcili bir FL ortamında ε = 10 düzeyindeki gizlilik MNIST ve CIFAR-10 üzerinde sırasıyla %96.6 ve %55.9 doğruluk elde edilebileceğini göstermektedir. Ayrıca, TS aktivasyon fonksiyonunun, öğrenme aktarması kullanılan DP-FL modellerinde model doğruluğunu artırdığı gözlemlenmiştir.

Özet (Çeviri)

Federated Learning (FL) enables decentralizing Machine Learning (ML) model training across multiple clients allowing them to run on users smart devices. These models collect large amounts of private data that can be used for malicious or unfair acts. Differential Privacy (DP) is a method of ensuring users data stays private to some extent. The application of DP has a strong toll on model utility due to the added noise. This paper investigates the utility-privacy trade-offs in FL using convolutional neural networks (CNN) and pre-trained Residual Neural Network (ResNet) models training on MNIST and CIFAR-10 image datasets. We apply DP using the Opacus library and use Tempered Sigmoids (TS) activation functions to enhance the model utility. We compare performance under varying privacy budgets in centralized and federated settings across 5- and 10-clients networks. We further evaluate the effect of optimizers and dropout layers on utility in DP-FL models, and highlight some pitfalls encountered when applying DP in FL setting. Our results show that a privacy of (ε = 10) in FL with 5-clients can achieve accuracy of 96.6% and 55.9% on MNIST and CIFAR-10 respectively. Also the usage of TS activation function was shown to improve model's accuracy in a transfer learning DP-FL model.

Benzer Tezler

  1. Tez No

    658232

    The dilemma of U.S. foreign policy during the Arab Spring: From moralpolitik to realpolitik

    Arap Baharı süresince Amerikan dış politikasının ikilemi: 'Moralpolitik'ten 'realpolitik'e

    CAN DONDURAN

    Doktora

    İngilizce

    İngilizce

    2021

    Uluslararası İlişkilerGalatasaray Üniversitesi

    Uluslararası İlişkiler Ana Bilim Dalı

    PROF. DR. A. FÜSUN TÜRKMEN

  2. Tez No

    944152

    Fairnessdplab: evaluating fairness impact of differential privacy on supervised ai algorithms

    Fairnessdplab: Diferansiyel mahremiyetin gözetimli yz algoritmalari üzerindeki adalet etkisinin analizi

    ASLI ATABEK

    Yüksek Lisans

    İngilizce

    İngilizce

    2025

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKoç Üniversitesi

    Bilgisayar Bilimleri ve Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ MEHMET EMRE GÜRSOY

  3. Tez No

    959536

    Federe öğrenme kullanılarak nesnelerin interneti (IOT) verileri analizi

    Analyzing internet of things (IOT) data using federated learning

    SÜLEYMAN BURAK ALTINIŞIK

    Yüksek Lisans

    Türkçe

    Türkçe

    2025

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBursa Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. TURGAY TUGAY BİLGİN

  4. Tez No

    964333

    Privacy-preserving data collection and sharing in modern mobile internet systems

    Modern mobil internet sistemlerinde gizlilik korumalı veri toplama ve paylaşma

    MEHMET EMRE GÜRSOY

    Doktora

    İngilizce

    İngilizce

    2020

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolGeorgia Institute of Technology

    Bilgisayar Bilimleri Ana Bilim Dalı

    PROF. DR. LİNG LİU

  5. Tez No

    887239

    Privacy-preserving mechanisms for face verification systems

    Yüz doğrulama sistemleri için gizliliği koruyucu mekanizmalar

    MARAM H. W. ALAGHBAR

    Yüksek Lisans

    İngilizce

    İngilizce

    2024

    Elektrik ve Elektronik MühendisliğiYıldız Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    PROF. DR. TÜLAY YILDIRIM

Geri Dön