Geri Dön

Network-aware federated neural architecture search

Ağ duyarlı federe sinir mimarisi araması

  1. Tez No: 881595
  2. Yazar: GÖKTUĞ ÖCAL
  3. Danışmanlar: DR. ÖĞR. ÜYESİ BAHRİ ATAY ÖZGÖVDE
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2024
  8. Dil: İngilizce
  9. Üniversite: Boğaziçi Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Bilgisayar Mühendisliği Bilim Dalı
  13. Sayfa Sayısı: 93

Özet

Derin Öğrenme, teknolojik yenilikleri şekillendirerek dünyayı farklı yönlerde önemli ölçüde etkiledi. DL ile Nesnelerin İnterneti arasındaki işbirliği, bu gelişmeleri daha da ileri taşıyarak akıllı cihazların DL destekli uygulamalar için hem veri kaynağı hem de uç nokta olarak hizmet etmesine olanak tanıdı. Ancak DL'nin başarısı, optimum Derin Sinir Ağı mimarilerine dayanır ve bu tür sistemleri geliştirmek, kapsamlı uzmanlık ve zaman gerektirir. Sinir Mimarisi Araması gibi otomatik makine öğrenimi yöntemleri, en iyi performansa sahip sinir mimarilerinin aranmasını otomatikleştirmek için geliştirilmiştir. Bu sırada, Federe Öğrenme, cihazların ve kullanıcıların özel verilerinin paylaşılması gerekmeden işbirlikçi model geliştirmeyi mümkün kılarak veri gizliliği endişelerini giderdi. Bu tez, sınırlı hesaplama kaynaklarına ve değişen ağ koşullarına sahip IoT cihazlarının maruz kaldığı zorlukları ele alan Federe Öğrenme ve Sinir Mimarisi Araması arasındaki işbirliğine odaklanmaktadır. Katkılar arasında, gerçek dünyadaki senaryoları simüle etmeyi ve dağıtılmış bir ağdaki modellerin boyutunu verimli bir şekilde azaltmayı amaçlayan, ağ emülasyon desteğine sahip açık kaynaklı bir federe sinir ağı budama aracının geliştirilmesi yer alıyor. Hem cihazların hassas verilerinin sınıf dağılımlarını hem de ağ bant genişliği koşullarını dikkate alarak iletişim verimliliğini optimize etmek için yeni bir istemci gruplama algoritması önerilmiştir. Ayrıca, ağ bant genişliğinin federe öğrenme, özellikle de iletişim turları üzerindeki etkisinin ayrıntılı bir şekilde araştırılması, verimli federe öğrenme sistemlerinin tasarlanması için faydalı sonuçlar sağlamıştır. Hesaplama verimliliğinin, veri gizliliğinin ve ağ koşullarının önemli rol oynadığı IoT sistemlerinde federe sinir mimarisi araştırması uygulanmasına katkı sağlamıştır.

Özet (Çeviri)

Deep Learning (DL) has significantly transformed various aspects of daily life by empowering technological innovations. The cooperation between DL and the Internet of Things (IoT) has further advanced these developments, allowing smart devices to serve as both data sources and endpoints for DL-powered applications. However, the success of DL relies on optimal Deep Neural Network (DNN) architectures, and manually developing such systems requires extensive expertise and time. Automated machine learning methods, such as Neural Architecture Search (NAS), have emerged to automate the search for the best-performing neural architectures. Meanwhile, Federated Learning (FL) addresses data privacy concerns by enabling collaborative model development without exchanging the private data of clients. This thesis focuses on the collaboration of Federated Learning and Neural Architecture Search, addressing challenges exposed by IoT devices with limited resources and changing network conditions. Contributions include the development of an open-source federated neural network pruning framework with network emulation support, aiming to simulate real-world scenarios and efficiently reduce the size of DNNs in a distributed network. A novel client grouping algorithm is proposed to optimize communication efficiency, considering both varying class distributions and network bandwidth conditions. Moreover, a detailed exploration of the impact of network bandwidth on federated learning, especially communication rounds, provides valuable insights for designing robust federated learning systems. These contributions collectively enhance the understanding of federated neural architecture search where computational efficiency, data privacy, and network conditions show significant roles.

Benzer Tezler

  1. Novel data partitioning and scheduling schemes for dynamic federated vehicular cloud

    Dinamik federe araç bulutu için yeni bir görev yükü paylaşımı ve iş planlaması şemaları

    WISEBORN MANFE DANQUAH

    Doktora

    İngilizce

    İngilizce

    2022

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. DENİZ TURGAY ALTILAR

  2. PATiM: Proximity aware time management

    PATiM: Yakınsallık tabanlı zaman yönetimi

    AYDIN OKUTANOĞLU

    Doktora

    İngilizce

    İngilizce

    2008

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik Üniversitesi

    Bilgisayar Mühendisliği Bölümü

    PROF. DR. MÜSLİM BOZYİĞİT

  3. Robust quality metrics for assessing multimodal data

    Çok kipli veri değerlendirme için dayanıklı nitelik ölçütleri

    BARIŞ KONUK

    Doktora

    İngilizce

    İngilizce

    2015

    Elektrik ve Elektronik MühendisliğiOrta Doğu Teknik Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. GÖZDE AKAR

  4. Network-aware virtual machine placement in cloud data centers with multiple traffic-intensive components

    Yoğun trafiğe sahip çok sayıda bileşenden oluşan bulut veri merkezleri için mevcut ağ koşullarını göz önüne alan sanal makine yerleştirme

    AMİR RAHİMZADEH ILKHECHİ

    Yüksek Lisans

    İngilizce

    İngilizce

    2014

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİhsan Doğramacı Bilkent Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DOÇ. DR. İBRAHİM KÖRPEOĞLU

    PROF. DR. ÖZGÜR ULUSOY