Network-aware federated neural architecture search
Ağ duyarlı federe sinir mimarisi araması
- Tez No: 881595
- Danışmanlar: DR. ÖĞR. ÜYESİ BAHRİ ATAY ÖZGÖVDE
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2024
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Bilgisayar Mühendisliği Bilim Dalı
- Sayfa Sayısı: 93
Özet
Derin Öğrenme, teknolojik yenilikleri şekillendirerek dünyayı farklı yönlerde önemli ölçüde etkiledi. DL ile Nesnelerin İnterneti arasındaki işbirliği, bu gelişmeleri daha da ileri taşıyarak akıllı cihazların DL destekli uygulamalar için hem veri kaynağı hem de uç nokta olarak hizmet etmesine olanak tanıdı. Ancak DL'nin başarısı, optimum Derin Sinir Ağı mimarilerine dayanır ve bu tür sistemleri geliştirmek, kapsamlı uzmanlık ve zaman gerektirir. Sinir Mimarisi Araması gibi otomatik makine öğrenimi yöntemleri, en iyi performansa sahip sinir mimarilerinin aranmasını otomatikleştirmek için geliştirilmiştir. Bu sırada, Federe Öğrenme, cihazların ve kullanıcıların özel verilerinin paylaşılması gerekmeden işbirlikçi model geliştirmeyi mümkün kılarak veri gizliliği endişelerini giderdi. Bu tez, sınırlı hesaplama kaynaklarına ve değişen ağ koşullarına sahip IoT cihazlarının maruz kaldığı zorlukları ele alan Federe Öğrenme ve Sinir Mimarisi Araması arasındaki işbirliğine odaklanmaktadır. Katkılar arasında, gerçek dünyadaki senaryoları simüle etmeyi ve dağıtılmış bir ağdaki modellerin boyutunu verimli bir şekilde azaltmayı amaçlayan, ağ emülasyon desteğine sahip açık kaynaklı bir federe sinir ağı budama aracının geliştirilmesi yer alıyor. Hem cihazların hassas verilerinin sınıf dağılımlarını hem de ağ bant genişliği koşullarını dikkate alarak iletişim verimliliğini optimize etmek için yeni bir istemci gruplama algoritması önerilmiştir. Ayrıca, ağ bant genişliğinin federe öğrenme, özellikle de iletişim turları üzerindeki etkisinin ayrıntılı bir şekilde araştırılması, verimli federe öğrenme sistemlerinin tasarlanması için faydalı sonuçlar sağlamıştır. Hesaplama verimliliğinin, veri gizliliğinin ve ağ koşullarının önemli rol oynadığı IoT sistemlerinde federe sinir mimarisi araştırması uygulanmasına katkı sağlamıştır.
Özet (Çeviri)
Deep Learning (DL) has significantly transformed various aspects of daily life by empowering technological innovations. The cooperation between DL and the Internet of Things (IoT) has further advanced these developments, allowing smart devices to serve as both data sources and endpoints for DL-powered applications. However, the success of DL relies on optimal Deep Neural Network (DNN) architectures, and manually developing such systems requires extensive expertise and time. Automated machine learning methods, such as Neural Architecture Search (NAS), have emerged to automate the search for the best-performing neural architectures. Meanwhile, Federated Learning (FL) addresses data privacy concerns by enabling collaborative model development without exchanging the private data of clients. This thesis focuses on the collaboration of Federated Learning and Neural Architecture Search, addressing challenges exposed by IoT devices with limited resources and changing network conditions. Contributions include the development of an open-source federated neural network pruning framework with network emulation support, aiming to simulate real-world scenarios and efficiently reduce the size of DNNs in a distributed network. A novel client grouping algorithm is proposed to optimize communication efficiency, considering both varying class distributions and network bandwidth conditions. Moreover, a detailed exploration of the impact of network bandwidth on federated learning, especially communication rounds, provides valuable insights for designing robust federated learning systems. These contributions collectively enhance the understanding of federated neural architecture search where computational efficiency, data privacy, and network conditions show significant roles.
Benzer Tezler
- Wireless network intrusion detection and analysis using federated learning
Başlık çevirisi yok
BURAK ÇETİN
Yüksek Lisans
İngilizce
2020
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolYoungstown State UniversityDR. ALİNA LAZAR
- Novel data partitioning and scheduling schemes for dynamic federated vehicular cloud
Dinamik federe araç bulutu için yeni bir görev yükü paylaşımı ve iş planlaması şemaları
WISEBORN MANFE DANQUAH
Doktora
İngilizce
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. DENİZ TURGAY ALTILAR
- PATiM: Proximity aware time management
PATiM: Yakınsallık tabanlı zaman yönetimi
AYDIN OKUTANOĞLU
Doktora
İngilizce
2008
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik ÜniversitesiBilgisayar Mühendisliği Bölümü
PROF. DR. MÜSLİM BOZYİĞİT
- Robust quality metrics for assessing multimodal data
Çok kipli veri değerlendirme için dayanıklı nitelik ölçütleri
BARIŞ KONUK
Doktora
İngilizce
2015
Elektrik ve Elektronik MühendisliğiOrta Doğu Teknik ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. GÖZDE AKAR
- Network-aware virtual machine placement in cloud data centers with multiple traffic-intensive components
Yoğun trafiğe sahip çok sayıda bileşenden oluşan bulut veri merkezleri için mevcut ağ koşullarını göz önüne alan sanal makine yerleştirme
AMİR RAHİMZADEH ILKHECHİ
Yüksek Lisans
İngilizce
2014
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİhsan Doğramacı Bilkent ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. İBRAHİM KÖRPEOĞLU
PROF. DR. ÖZGÜR ULUSOY