Evolutionary adaptation and dopamine modulated learning in spiking neural networks
Atımlı sinir ağlarında evrimsel adaptasyon ve dopamin modülasyonlu öğrenme
- Tez No: 674932
- Danışmanlar: YRD. DOÇ. DR. SEYMUR JAHANGIROV
- Tez Türü: Yüksek Lisans
- Konular: Bilim ve Teknoloji, Science and Technology
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2021
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Malzeme Bilimi ve Nanoteknoloji Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 80
Özet
Derin Öğrenmenin son on yıldaki yükselişi ile birlikte, görüntü sınıflandırma, makine çevirisi ve metin oluşturma gibi on yıllardır çalışılan problemlere insanüstü düzeyde çözümler bulundu. Derin Öğrenmenin Pekiştirmeli Öğrenme gibi farklı paradigmalarla birleştirilmesi ise Go oyununu çözme, yaklaşık elli yıldır çözülemeyen üç boyutlu protein katlamayı çözme ve üç boyutlu manzara rekonstrüksiyonu oluşturma gibi daha etkileyici sonuçlara sebep oldu. Ancak Derin Öğrenme sadece çok büyük miktarlarda veriye ihtiyaç duymakla kalmaz aynı zamanda kullandığı geri yayılım gibi öğrenme algoritmaları da biyolojik olarak anlamlı olmaktan uzaktır. Öte yandan, Atımlı Sinir Ağları biyolojik nöronları neredeyse birebir taklit edebilen dinamik sistemler olduğundan; araştırmacılara Sinirbilimden metod ve fikirleri doğrudan simülasyonlara uygulama şansı tanımaktadır. Bu çalışmada, Atımlı Sinir Ağları üzerinde; XOR, direk dengeleme ve yemek yakalama gibi problemleri çözebilen sinir ağları eğitmek için iyi bilinen bir genetik algoritma olan Artırılan Topolojilerle Nöral Evrim algoritmasını kullandık. Daha sonra, Atım Zamanına Bağlı Plastisite algoritmasına dopamin modülasyonu uygulamanın yiyecekleri yakalarken faydalı veya zararlı olanları seçmek gibi daha zor problemleri çözmede etkin olduğunu gösterdik. Burada çözülen problemin can alıcı noktası yemeklerin fenotipleri değişmezken faydalı veya zararlı olmaları özelliklerinin değişebilmesidir çünkü bu, sinir ağlarının sadece genetik olarak yemek yeme arzularının olmasını değil ortamda keşif yaparak faydalı olan besini bulmalarını gerektirmektedir. Sonuç olarak, Atımlı Sinir Ağlarının Artırılan Topolojilerle Nöral Evrim ile eğitildiklerinde doğrusal olmayan problemleri çözebildiklerini ancak adaptasyon ve keşif gerektiren problemlerde dopamin modülasyonu olmadan yetersiz olduklarını gösterdik.
Özet (Çeviri)
Amidst the rise of Deep Learning (DL) in the last ten years, many decades withstanding problems such as image classification, machine translation and text generation received superhuman level solutions. Combining DL with other paradigms such as Reinforcement Learning (RL) led to even more astonishing achievements such as solving the game of Go, 3D Protein Folding and scene reconstruction. However, not only Artificial Neural Networks (ANNs) used in DL require a massive amount of data as the problems get complicated (curse of dimensionality) but also the learning algorithms used in ANNs such as backpropagation are biologically not plausible. On the other hand, Spiking Neural Networks (SNNs) are computationally powerful nonlinear dynamical systems that are biologically more credible. Thus, approaching problems using SNNs promises the possibility of transferring methods and discoveries from Neuroscience. In this work, we utilized a well known genetic algorithm called NeuroEvolution of Augmenting Topologies (NEAT) on SNNs to train agents which can solve various nonlinear problems such as XOR, pole balancing and food chasing. Afterwards, we applied dopamine modulation on Spike-Timing Dependent Plasticity (STDP) and attested that dopamine modulated STDP can indeed solve harder problems such as discovering good and bad nutrition types while trying to catch and consume food. The gist of the problem is that the same food can be beneficial in one episode/trial and detrimental in another one. As a result, we have shown that NEAT applied to SNNs can solve various nonlinear tasks; however, it cannot solve problems where in-life adaptation and/or discovery is required.
Benzer Tezler
- Yeni bir biyolojik ilhamlı metasezgisel optimizasyon metodu: Yapay alg algoritması
A novel bio-inspired metaheuristic optimization method: Artificial algae algorithm
SAİT ALİ UYMAZ
Doktora
Türkçe
2015
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSelçuk ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. GÜLAY TEZEL
DOÇ. DR. ESRA YEL
- Kablosuz algılayıcı düğüm dağıtımında evrimsel algoritma tabanlı optimizasyon
Evolutionary algorithm-based optimization of wireless sensor node deployment
SİBEL BİRTANE AKAR
Doktora
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolMarmara ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. HAYRİYE KORKMAZ
PROF. DR. ÖZGÜR KORAY ŞAHİNGÖZ
- Allopatrik popülasyonlarda morfoloji, erkek çağrı sesi ve kutikular hidrokarbon varyasyonu: Isophya autumnalis Karabağ, 1962 (Orthoptera: Phaneropterınae)
The extent of variation in morphology, male calling song and cuticular hydrocarbons:A case study on the buschricket Isophya autumnalis Karabağ,1962 (Orthoptera: Phaneropterinae)
EBRU KIRAN ÖZDEMİR
Yüksek Lisans
Türkçe
2020
ZoolojiOrdu ÜniversitesiMoleküler Biyoloji ve Genetik Ana Bilim Dalı
PROF. DR. HASAN SEVGİLİ
- Mimarlığın teknolojik evrimi
Technological evolution of architecture
ERDEM DOKUZER
Yüksek Lisans
Türkçe
2018
Mimarlıkİstanbul Teknik ÜniversitesiMimarlık Ana Bilim Dalı
DOÇ. DR. PELİN DURSUN ÇEBİ
- Bilişsel adaptasyon sürecinde dinin rolü
The role of religion in the cognitive adaptation process
TEVHİDE DEMİREL
Yüksek Lisans
Türkçe
2023
DinKahramanmaraş Sütçü İmam ÜniversitesiFelsefe ve Din Bilimleri Ana Bilim Dalı
PROF. DR. SAFFET KARTOPU