Multiplication free neural networks
Çarpma işlemsiz sinir ağları
- Tez No: 486737
- Danışmanlar: Prof. Dr. AHMET ENİS ÇETİN
- Tez Türü: Yüksek Lisans
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2018
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Elektrik Elektronik Mühendisliği Bilim Dalı
- Sayfa Sayısı: 88
Özet
Sinir ağları olarak da bilinen yapay sinir ağları son yıllarda, özellikle yüksek doğruluk oranlarına erişebilmesi ve önceden tahmin edilemeyen örüntüleri genelleştirebilmesi sebebi ile son yıllarda tekrar popüler oldu. Genel olarak sinir ağlarının hesap yükleri fazladır. Bu tez, çarpma işlemi gerektirmeyen bir grup sinir ağı içermektedir. Bu tezde, Çarpma İşlemsiz Sinir Ağları adı altında, çarpma işlemlerinin işaret ve toplama işlemleri ile değiştirildiği sinir ağlarının uygulaması sunulmaktadır. Bu tezde Çarpma İşlemsiz Sinir Ağlarının VHDL kullanarak FPGA ve ASIC uygulamarı üzerinde durulmaktadır. Sinir ağları ve Çarpma İşlemsiz Sinir Ağları için detaylı bir açıklama ve önerilen donanım planı analiz edilmiştir. Bir nörünun gecikme süresi-donanım kaynağı ödünleşimi açısından, üç farklı donanım için dizaynı (seri, paralel ve hibrid) performansı karşılaştırılmaktadır. Bir katmanlı çarpma işlemsiz yapay sinir ağlarının performansının, bir katmanlı standart sinir ağlarıyla aynı oranlara erişebildiğini göstermekteyiz. Donanım uygulaması ile ise, çarpma işlemsiz yapay sinir ağlarının, toplama ve işaret işlemi çarpma işlemine göre çok daha az enerji harcadığı için, enerji açısından çok daha verimli olduklarını göstermekteyiz. Çarpam işlemsiz Sinir Ağları, doğruluk performansından fazla ödün vermeden yüksek oranda enerji tasarrufu sağlamaktadırlar. Kayan noktalı tanıma performansı için, sabit noktalı sayısallaştırma ile birlikte sinir ağları ve çarpma işlemsiz sinir ağları için gerekli bit sayısı ayrıca tartışılmıştır.
Özet (Çeviri)
Artificial Neural Networks, commonly known as Neural Networks (NNs), have become popular in the last decade for their achievable accuracies due to their ability to generalize and respond to unexpected patterns. In general, NNs are computationally expensive. This thesis presents the implementation of a class of NN that do not require multiplication operations. We describe an implementation of a Multiplication Free Neural Network (MFNN), in which multiplication operations are replaced by additions and sign operations. This thesis focuses on the FPGA and ASIC implementation of the MFNN using VHDL. A detailed description of the proposed hardware design of both NNs and MFNNs is analyzed. We compare 3 different hardware designs of the neuron (serial, parallel and hybrid), based on latency/hardware resources trade-off. We show that one-hidden-layer MFNNs achieve the same accuracy as its counterpart NN using the same number of neurons. The hardware implementation shows that MFNNs are more energy efficient than the ordinary NNs, because multiplication is more computationally demanding compared to addition and sign operations. MFNNs save a significant amount of energy without degrading the accuracy. The fixed-point quantization is discussed along with the number of bits required for both NNs and MFNNs to achieve floating-point recognition performance.
Benzer Tezler
- Training methodology for a multiplication free implementable operator based neural networks
Çarpmasız hesaplanabilen operatör bazlı yapay sinir ağları için öğrenme metodu
OZAN YILDIZ
Yüksek Lisans
İngilizce
2017
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. FATOŞ TUNAY YARMAN VURAL
- Covolutional neural networks based on non-euclidean operators
Öklidce mensup olmayan operatörler bazında konvolüsyonel sinir ağları
DIAA HISHAM JAMIL BADAWI
Yüksek Lisans
İngilizce
2018
Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
Prof. AHMET ENİS ÇETİN
- Stochastic bitstream-based vision and learning machines
Stokastik bit akışı tabanlı görü ve öğrenme makineleri
SERCAN AYGÜN
Doktora
İngilizce
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. ECE OLCAY GÜNEŞ
- SAR image despeckling using convolutional neural networks
Evrişimsel sinir ağları kullanılarak SAR görüntülerinin gürültüsünün temizlenmesi
YUSUF ŞEVKİ GÜNAYDIN
Yüksek Lisans
İngilizce
2019
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolAnkara Yıldırım Beyazıt ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. BAHA ŞEN
- Cooperative control of multi-agent system under time delay
Çok ajanlı sistemlerin zaman gecikmesi altında eş zamanlı kontrolü
ŞİRİN AKKAYA
Doktora
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiMekatronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. ALİ FUAT ERGENÇ