Geri Dön

Weight quantization for multi-layer perceptrons

Çok katmanlı yapay sinir ağları için ağırlık nicemlemesi

  1. Tez No: 95446
  2. Yazar: FATİH KÖKSAL
  3. Danışmanlar: DOÇ. DR. ETHEM ALPAYDIN, DOÇ. DR. GÜNHAN DÜNDAR
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2000
  8. Dil: İngilizce
  9. Üniversite: Boğaziçi Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 77

Özet

ÖZET ÇOK KATMANLI YAPAY SİNİR AĞLARI İÇİN AĞIRLIK NİCEMLEMESİ Bu çalışmada çok katmanlı yapay sinir ağlarının etkin bir şekilde oluşturulması için parametrelerinin çeşitli metotlarla nicemlemesi tartışılmaktadır. Bu metotlar para metreleri sabit sayılar gibi değil bir Gauss karışım dağılımından çekilmiş rassal değişkenler gibi düşünür ve herbiri bu karışım dağılımı üzerinde çeşitli varsayımlar yapar. Bunların içinde özel haller olarak düzenli nicemleme ile A;-merkezli öbekleme vardır. Paramet relerin dağılımının öğrenilmesi ile çok katmanlı yapay sinir ağının eğitiminin birleştirilme sinde“esnek ağırlık paylaşımı (soft weight sharing)”kullanılması önerilmektedir. Bağlanım ve sınıflandırma veri kümeleri üzerindeki benzetim sonuçları çeşitli nicemleme metot larını karşılaştırır ve dağılım parametrelerinin eğitiminin yapay sinir ağı parametrelerinin eğitimi ile birleştirilmesinin üstünlüğünü göstermektedir.

Özet (Çeviri)

IV ABSTRACT WEIGHT QUANTIZATION FOR MULTI-LAYER PERCEPTRONS In this work various methods for quantizing the weights of a multi-layer percep tion for efficient VLSI implementation is discussed. These methods consider weights not as constant numbers but as random variables drawn from a Gaussian mixture distribution where each of these methods make a certain assumption about the compo nents of the mixture. These include as special cases uniform quantization and /s-means clustering. It is proposed to use soft weight sharing in learning the distribution of the weights coupled with the training of the multi-layer perceptron. Simulation results on regression and classification data sets compare various quantization schemes and demonstrate the advantage of coupled training of distribution parameters.

Benzer Tezler

  1. Yapay sinir ağları ve genetik algoritmalar kullanılarak EKG vurularının sınıflandırılması

    Classification of ECG beats by using artifical neural networks and genetic algorithms

    ZÜMRAY DOKUR

  2. Stochastic bitstream-based vision and learning machines

    Stokastik bit akışı tabanlı görü ve öğrenme makineleri

    SERCAN AYGÜN

    Doktora

    İngilizce

    İngilizce

    2022

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    PROF. DR. ECE OLCAY GÜNEŞ

  3. Lightweight facial expression recognition systems for social robots

    Sosyal robotlar için hafif ağırlıklı yüz ifadesi tanıma sistemleri

    ERHAN BİÇER

    Yüksek Lisans

    İngilizce

    İngilizce

    2024

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. HATİCE KÖSE

  4. A memory efficient novel deep learning architecture enabling diverse feature extraction on wearable motion sensor data

    Giyilebilir hareket algılayıcıları verisi ile kapsamlı öznitelik çıkarma sağlayan bellek verimli yenilikçi bir derin öğrenme mimarisi

    ENES KOŞAR

    Yüksek Lisans

    İngilizce

    İngilizce

    2022

    Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. BİLLUR BARSHAN ÖZAKTAŞ

  5. Pulse Frequency Modulated DROICs with Reduced Quantization Noise Employing Extended Counting Method

    Uzatılmış sayma yönteminin uygulandığı, düşük niceleme gürültülü darbe frekans modülasyonlu DROIC'ler

    HÜSEYİN KAYAHAN

    Doktora

    İngilizce

    İngilizce

    2013

    Elektrik ve Elektronik MühendisliğiSabancı Üniversitesi

    Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. YAŞAR GÜRBÜZ