Fedopenhar: Federated multi-task transfer learning for sensor-based human activity recognition
Fedopenhar: Sensör-tabanlı insan aktivitesi tanımlama için federe çok-hedefli öğrenme aktarımı
- Tez No: 881600
- Danışmanlar: YRD. DOÇ. DR. BAHRİ ATAY ÖZGÖVDE
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2024
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Bilgisayar Mühendisliği Bilim Dalı
- Sayfa Sayısı: 75
Özet
Giyilebilir ve mobil cihazlara entegre edilmiş hareket sensörleri, cihaz kullanıcıları hakkında değerli bilgiler sağlar. Makine öğrenimi ve son zamanlarda derin öğrenme teknikleri, sensör verilerini karakterize etmek için kullanılmıştır. Genellikle, insan aktivitelerinin tanınması gibi tek bir görev hedeflenir ve veri genellikle bir sunucuda veya bulutta merkezi olarak işlenir. Ancak aynı sensör verisi birden fazla görev için kullanılabilir ve verilerin merkeze iletilmesi gereksinimi olmaksızın dağıtılmış makine öğrenimi teknikleri kullanılabilir. Bu tezde, hem sensör tabanlı insan aktivitesi tanıma hem de cihaz konumu belirleme görevleri için Çok-Hedefli Federe Öğrenme Aktarımı'nı kullanan FedOpenHAR metodunu sunuyoruz. Hedefe-özel ve kişiselleştirilmiş katmanları federe bir şekilde eğiterek öğrenme aktarımı yaklaşımını kullanıyoruz. Modelleri eğitmek için on küçük veri seti içeren OpenHAR verisetleri kümesi kullanılıyor. Temel amaç ve zorluk, farklı veri kümelerinin yalnızca bazı etiket türlerini içerirken, farklı veri kümelerinde her iki göreve de uygulanabilir sağlam model(ler) elde etmektir. Çeşitli parametreler ve kısıtlamalar altında, Flower federe öğrenme ortamında DeepConvLSTM, MLP ve CNN mimarileri kullanılarak birden fazla deney gerçekleştirmektedir. Sonuçlar, federe ve merkezi deneyler için sunulur. Öğrenme aktarımı kullanarak ve hedefe-özel ve kişiselleştirilmiş federe bir model eğiterek, tamamen merkezi bir eğitim yaklaşımından (64.5%) daha yüksek bir doğruluk elde ettik (72.4%) ve her istemcinin izole bir şekilde bireysel eğitim yaptığı bir durumla benzer bir doğruluk elde ettik (72.6%) . Ancak, FedOpenHAR'ın bireysel eğitime göre avantajı, yeni bir istemcinin yeni bir etiket türüyle (yeni bir hedef) katılması durumunda ortak katmandan eğitime başlayabilmesidir. Ayrıca, yeni bir istemcinin mevcut görevlerden birinde yeni bir sınıf türü sınıflandırmak istemesi durumunda, FedOpenHAR doğrudan hedefe-özel katmanlardan eğitime başlayabilir. Ayrıca FedOpenHAR'ın farklı parametreler altındaki performansını değerlendirmek için daha fazla deney yapılmış ve sonuçları sunulmaktadır.
Özet (Çeviri)
Motion sensors integrated into wearable and mobile devices provide valuable information about the device users. Machine learning and, recently, deep learning techniques have been used to characterize sensor data. Mainly, a single task, such as the recognition of human activities, is targeted, and the data is processed centrally at a server or in the cloud. However, the same sensor data can be utilized for multiple tasks and distributed machine-learning techniques can be used without the requirement of transmitting data to a centre. In this thesis, we introduce the FedOpenHAR framework that explores Federated Transfer Learning in a Multi-Task manner for both sensor-based human activity recognition and device position identification tasks. It utilizes a transfer learning approach by training task-specific and personalized layers in a federated manner. The OpenHAR framework, which contains ten smaller datasets, is used to train the models. The challenge is obtaining robust model(s) applicable for both tasks in different datasets, which may include only some label types. Multiple experiments are carried out in the Flower federated learning environment using DeepConvLSTM, MLP and CNN architectures. Results are presented for federated and centralized versions under different parameters and restrictions. By utilizing transfer learning and training a task-specific and personalized federated model, we obtained a higher accuracy (72.4%) than a fully centralized training approach (64.5%) and a similar accuracy in a case where each client performs individual training in isolation (72.6%). However, the advantage of FedOpenHAR over individual training is that if a new client joins with a new label type (meaning a new task), it can start training from the common layer. Additionally, if a new client wants to classify a new class type in one of the existing tasks, FedOpenHAR can start training directly from task-specific layers. We also perform further experiments to evaluate the performance of FedOpenHAR under different settings.