A memory efficient novel deep learning architecture enabling diverse feature extraction on wearable motion sensor data
Giyilebilir hareket algılayıcıları verisi ile kapsamlı öznitelik çıkarma sağlayan bellek verimli yenilikçi bir derin öğrenme mimarisi
- Tez No: 763460
- Danışmanlar: PROF. DR. BİLLUR BARSHAN ÖZAKTAŞ
- Tez Türü: Yüksek Lisans
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2022
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 123
Özet
Giyilebilir algılayıcı verilerini analiz ederek insan hareketlerini algılamak için temsili öznitelik çıkarmak güncel bir araştırma alanıdır. Bu çalışmada insan aktivitelerini tanımak için giyilebilir hareket algılayıcıları ve derin öğrenme yöntemleri kullanılarak yenilikçi karma bir derin yapay sinir ağı mimarisi öne sürülmektedir. Sunulan yapıda zaman dizisi sinyalleri ve bu sinyallerin zaman-frekans resimleri (spektrogram) sırasıyla modelin paralel halde çalışan uzun-kısa vadeli bellek ve iki boyutlu evrişimsel sinir ağları kollarını beslemek için kullanılmıştır. Önerilen yapının sınıflandırma başarımı, bu alanda yaygın olarak kullanılmakta olan beş farklı mimari olan tek boyutlu evrişimsel yapay sinir ağları, iki boyutlu evrişimsel yapay sinir ağları, uzun-kısa vadeli bellek ağları, standart tek boyutlu karma ağlar ve alternatif tek boyutlu karma ağlar ile karşılaştırılmıştır. Söz konusu altı modelin üstdeğişken ayarları Bayesçi eniyileme kullanılarak yapılmış ve modellerin başarımları iki farklı veriseti kullanılarak elde edilmiştir. Önerilen karma derin yapay sinir ağı yapısı verisetleri üzerinde 95.66% ve 92.95% doğruluk oranlarıyla en iyi ikinci mimari olan iki boyutlu evrişimsel yapay sinir ağları yapısından 2.45% ve 3.18% daha yüksek başarım elde etmiştir. Kullanıcı kimliği tanıma görevi, bu tezde çalışılmış olan bir diğer konudur. Bu görev için öncelikle hareket algılayıcılardan alınan sinyalleri, kullanıcı kimliği tanımak için elverişli ve elverişsiz olarak sınıflandıran bir ikili model geliştirilmiştir. Kullanışlı olarak sınıflandırılan sinyaller, önerilen derin öğrenme yapısı kullanılarak cihaz kullanıcısının kimliğini saptamak için kullanılmıştır. Hareket tanıma ve kimlik tanıma görevleri arasında öğrenme aktarması yapılarak başarım oranlarında kayda değer bir kayıp yaşanmadan modellerin eğitilme süreleri yaklaşık olarak 8.7–17 kat azaltılmıştır. Son olarak, aktivite ve kullanıcı kimliği tanımak için kullanılan bu modellerin bellek gereksinimlerini düşürmek üzerine çalışılmıştır. Öğrenme aktarması, örnekleme katmanları ve sekiz-bit nicemleme yöntemleri uygulanarak modellerin bellek gereksinimleri yaklaşık olarak 17–116 kat azaltılmıştır.
Özet (Çeviri)
Extracting representative features to recognize human activities through the use of wearables is an area of on-going research. We propose a novel hybrid network architecture to recognize human activities through the use of wearable motion sensors and deep learning techniques. The long short-term memory (LSTM) and the 2D convolutional neural network (CNN) branches of the model that run in parallel receive the raw signals and their spectrograms, respectively. We compare the classification performance of the proposed network with five commonly used network architectures: 1D CNN, 2D CNN, LSTM, standard 1D CNN-LSTM, and an alternative 1D CNN-LSTM model. We tune the hyper-parameters of all six models using Bayesian optimization and test the models on two publicly available datasets. The proposed 2D CNN-LSTM architecture achieves the highest average accuracies of 95.66% and 92.95% on the two datasets, which are, respectively, 2.45% and 3.18% above those of the 2D CNN model that ranks the second. User identification is another problem that we have addressed in this thesis. Firstly, we use binary classifier models to detect activity signals that are useful for the user identity recognition task. Useful signals are transmitted to the next module and used by the proposed deep learning model for user identity recognition. Moreover, we investigate feature transfer between the human activity and user identity recognition tasks which enables shortening the training processes by 8.7 to 17 times without a significant degradation in classification accuracies. Finally, we elaborate on reducing the model sizes of the proposed models for human activity and user identity recognition problems. By using transfer learning, pooling layers, and eight-bit weight quantization methods, we have reduced the model sizes by 17–116 times without a significant degradation in classification accuracies.
Benzer Tezler
- Öz bilgi destekli derin öğrenme yaklaşımları ile hsg gürültü giderme
Self-ınformation empowered deep learning approaches for hsı denoising
ORHAN TORUN
Doktora
Türkçe
2024
Elektrik ve Elektronik MühendisliğiHacettepe ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. SENİHA ESEN YÜKSEL ERDEM
PROF. DR. MEHMET ERKUT ERDEM
- Cognition-enabling techniques for next-generation radar and electronic warfare systems
Gelecek nesil radar ve elektronik harp sistemleri için bilişsellik-etkinleştirme teknikleri
MUHARREM ARIK
Doktora
İngilizce
2019
Elektrik ve Elektronik MühendisliğiKoç ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. ÖZGÜR BARIŞ AKAN
- Image classification with energy efficient Hadamard neural networks
Verimli enerjili Hadamard sinir ağları ile görüntü sınıflandırması
TUBA CEREN DEVECİ
Yüksek Lisans
İngilizce
2018
Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. AHMET ENİS ÇETİN
- Akıllı ev sisteminde derin öğrenme tabanlı enerji tüketim tahmini
Deep learning-based energy consumption prediction in smart home system
BİRCE DAĞKURS
Yüksek Lisans
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolGazi Üniversitesiİleri Teknolojiler Ana Bilim Dalı
DR. ÖĞR. ÜYESİ İSMAİL ATACAK
- Reinforcement learning for intrusion detection
Saldırı tespiti için takviyeli öğrenme
AHMED MOHAMED SAAD EMAM SAAD
Yüksek Lisans
İngilizce
2021
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolAtılım ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ BEYTULLAH YILDIZ