Geri Dön

Low complexity efficient online learning algorithms using LSTM networks

UKSB ağları ile düşük karmaşıklığa sahip verimli çevrimiçi öğrenme algoritmaları

PDF İndir

  1. Tez No: 540531
  2. Yazar: ALI HASSAN MIRZA
  3. Danışmanlar: DOÇ. DR. SÜLEYMAN SERDAR KOZAT
  4. Tez Türü: Yüksek Lisans
  5. Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2018
  8. Dil: İngilizce
  9. Üniversite: İhsan Doğramacı Bilkent Üniversitesi
  10. Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 113

Özet

Bu tezde uzun-kısa soluklu bellek (UKSB) ağları ile verimli çevrimiçi öğrenme algoritmalarını takdim etmekteyiz. İkinci bölümde, UKSB ağlarının kovaryans bilgisini kullanabilen türü olan Co-UKSB ağları ile verimli çevrimiçi öğrenme yöntemlerini incelemekteyiz. Kovaryans bilgisini UKSB ağının kapı yapısında kullanmakla birlikte çeşitli verimli UKSB modelleri sunmaktayız. Eklemeli gradyan güncellemeleri ve ağırlık matrisinin ayrıştırılması ile hesaplama karmaşıklığını düşürebilmekteyiz. Üçüncü bölümde, Co-UKSB ağlarının iletişim ağlarında saldırı tespiti için kullanımını göstermekteyiz. Dördüncü bölümde, Tree-UKSB ağlarının takviyeli sınıflandırılmış ve ikili hali olan BBT-UKSB ağlarını sunmaktayız. Tüm yapının dengeli bir biçimde geliştiği ve UKSB boğumlarının ikili bölündüğü N-li Tree-UKSB ağları için derinlik ve pencereleme etmenlerini takdim etmekteyiz. BBT-UKSB ağlarının hesaplama karmaşıklığını düşrmek için, ağırlık matrislerini ayrıştırmakta, çarpma işlemi yerine enerji verimli bir işlem kullanmakta ve BBT-UKSB ağının ağrılık matrislerinde tanımlı bir dilimleme işlemi tanımlamaktayız. Beşinci bölümde, girdi veri dizisi üzerinde en az sayıda atlamaya dayalı, düşük hesaplama karmaşıklığına sahip bir UKSB ağı sunmaktayız. Ardışık iki zaman arasındaki en uygun atlama mesafesini seçmek için iki adet yöntem üzerinde çalışmaktayız. Her bölümün sonunda, önerilen algoritmaların başarımını gerçek hayattan alınmış veri kümeleri ile yapılmış deneylerle göstermekteyiz.

Özet (Çeviri)

In this thesis, we implement efficient online learning algorithms using the Long Short Term Memory (LSTM) networks with low time and computational complexity. In Chapter 2, we investigate efficient covariance information-based online learning using the LSTM networks known as Co-LSTM networks. We utilize the covariance information into the LSTM gating structure and propose various efficient models. We reduce the computational complexity by applying the Weight Matrix Factorization (WMF) trick and derive the additive gradient based updates. In Chapter 3, we give a practical application of the network intrusion detection using the Co-LSTM networks. In Chapter 4, we propose a boosted binary version of Tree-LSTM networks which we call BBT-LSTM networks. We introduce the depth and windowing factor into the N-ary Tree-LSTM networks where each LSTM node is binarily split and the whole tree architecture grows in a balanced manner. In order to reduce the computational complexity of the BBT-LSTM networks, we apply WMF trick, replace the regular multiplication operator with the energy efficient operator and finally introduce the slicing operation on the BBT-LSTM network weight matrices. In Chapter 5, we propose another low complexity LSTM network based on a minimum number of hopping over the input data sequence. We study two methods to select the appropriate value of the hopping distance. Through an extensive set of experiments using the real-life data sets, we demonstrate the significant increase in the performance of the proposed algorithms at the end of each chapter.

Benzer Tezler

  1. Tez No

    409140

    Computational aesthetics using machine learning for video game camera direction

    Video oyunu kamera yönetimi için makine ögrenmesi ile hesaplamalı estetik

    ALİ NACİ ERDEM

    Yüksek Lisans

    İngilizce

    İngilizce

    2015

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik Üniversitesi

    Modelleme ve Simülasyon Ana Bilim Dalı

    PROF. DR. UĞUR HALICI

  2. Tez No

    672711

    Offloading decision with mobility-aware for mobile edge computing in 5G networks

    5g şebekesinde mobil kenar bilgi işlem için mobilite bilinci ile aktarma kararları

    SAEID JAHANDAR BONAB

    Yüksek Lisans

    İngilizce

    İngilizce

    2021

    Elektrik ve Elektronik Mühendisliğiİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    PROF. DR. MUSTAFA ERGEN

  3. Tez No

    688836

    Enerji algılama tabanlı işbirlikçi online öğrenme algoritması kullanılarak bilişsel radyo ağlarında spektrum algılama başarımının iyileştirilmesi

    Improvement of spectrum perception performance in cognitive radio networks using energy sensing based collaborative online learning algorithm

    KENAN KOÇKAYA

    Doktora

    Türkçe

    Türkçe

    2021

    Elektrik ve Elektronik MühendisliğiErciyes Üniversitesi

    Elektrik ve Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. İBRAHİM DEVELİ

  4. Tez No

    392500

    Online learning under adverse settings

    Karşıt koşullar altında çevrimiçi öğrenme

    HÜSEYİN ÖZKAN

    Doktora

    İngilizce

    İngilizce

    2015

    Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    DOÇ. DR. SÜLEYMAN SERDAR KOZAT

  5. Tez No

    692422

    Hybridization of probabilistic graphical models and metaheuristics for handling dynamism and uncertainty

    Değişimin ve belirsizliğin ele alınması için olasılıksal çizgesel biçelerin ve sezgi-üstlerinin melezleştirilmesi

    GÖNÜL ULUDAĞ

    Doktora

    İngilizce

    İngilizce

    2021

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. AYŞE ŞİMA UYAR

Geri Dön