Weight quantization for multi-layer perceptrons
Çok katmanlı yapay sinir ağları için ağırlık nicemlemesi
- Tez No: 95446
- Danışmanlar: DOÇ. DR. ETHEM ALPAYDIN, DOÇ. DR. GÜNHAN DÜNDAR
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2000
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 77
Özet
ÖZET ÇOK KATMANLI YAPAY SİNİR AĞLARI İÇİN AĞIRLIK NİCEMLEMESİ Bu çalışmada çok katmanlı yapay sinir ağlarının etkin bir şekilde oluşturulması için parametrelerinin çeşitli metotlarla nicemlemesi tartışılmaktadır. Bu metotlar para metreleri sabit sayılar gibi değil bir Gauss karışım dağılımından çekilmiş rassal değişkenler gibi düşünür ve herbiri bu karışım dağılımı üzerinde çeşitli varsayımlar yapar. Bunların içinde özel haller olarak düzenli nicemleme ile A;-merkezli öbekleme vardır. Paramet relerin dağılımının öğrenilmesi ile çok katmanlı yapay sinir ağının eğitiminin birleştirilme sinde“esnek ağırlık paylaşımı (soft weight sharing)”kullanılması önerilmektedir. Bağlanım ve sınıflandırma veri kümeleri üzerindeki benzetim sonuçları çeşitli nicemleme metot larını karşılaştırır ve dağılım parametrelerinin eğitiminin yapay sinir ağı parametrelerinin eğitimi ile birleştirilmesinin üstünlüğünü göstermektedir.
Özet (Çeviri)
IV ABSTRACT WEIGHT QUANTIZATION FOR MULTI-LAYER PERCEPTRONS In this work various methods for quantizing the weights of a multi-layer percep tion for efficient VLSI implementation is discussed. These methods consider weights not as constant numbers but as random variables drawn from a Gaussian mixture distribution where each of these methods make a certain assumption about the compo nents of the mixture. These include as special cases uniform quantization and /s-means clustering. It is proposed to use soft weight sharing in learning the distribution of the weights coupled with the training of the multi-layer perceptron. Simulation results on regression and classification data sets compare various quantization schemes and demonstrate the advantage of coupled training of distribution parameters.
Benzer Tezler
- Yapay sinir ağları ve genetik algoritmalar kullanılarak EKG vurularının sınıflandırılması
Classification of ECG beats by using artifical neural networks and genetic algorithms
ZÜMRAY DOKUR
- Stochastic bitstream-based vision and learning machines
Stokastik bit akışı tabanlı görü ve öğrenme makineleri
SERCAN AYGÜN
Doktora
İngilizce
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. ECE OLCAY GÜNEŞ
- Lightweight facial expression recognition systems for social robots
Sosyal robotlar için hafif ağırlıklı yüz ifadesi tanıma sistemleri
ERHAN BİÇER
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. HATİCE KÖSE
- A memory efficient novel deep learning architecture enabling diverse feature extraction on wearable motion sensor data
Giyilebilir hareket algılayıcıları verisi ile kapsamlı öznitelik çıkarma sağlayan bellek verimli yenilikçi bir derin öğrenme mimarisi
ENES KOŞAR
Yüksek Lisans
İngilizce
2022
Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. BİLLUR BARSHAN ÖZAKTAŞ
- Pulse Frequency Modulated DROICs with Reduced Quantization Noise Employing Extended Counting Method
Uzatılmış sayma yönteminin uygulandığı, düşük niceleme gürültülü darbe frekans modülasyonlu DROIC'ler
HÜSEYİN KAYAHAN
Doktora
İngilizce
2013
Elektrik ve Elektronik MühendisliğiSabancı ÜniversitesiElektronik Mühendisliği Ana Bilim Dalı
PROF. DR. YAŞAR GÜRBÜZ
