Geri Dön

Physics- and biology-inspired learning dynamics for artificial neural networks

Yapay sinir ağları için fizik ve biyoloji esinli öğrenme dinamikleri

PDF İndir

  1. Tez No: 1010312
  2. Yazar: BAŞER TAMBAŞ
  3. Danışmanlar: PROF. DR. AHMET LEVENT SUBAŞI
  4. Tez Türü: Doktora
  5. Konular: Fizik ve Fizik Mühendisliği, Physics and Physics Engineering
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2026
  8. Dil: İngilizce
  9. Üniversite: İstanbul Teknik Üniversitesi
  10. Enstitü: Lisansüstü Eğitim Enstitüsü
  11. Ana Bilim Dalı: Fizik Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Fizik Mühendisliği Bilim Dalı
  13. Sayfa Sayısı: Belirtilmemiş.

Özet

Yapay sinir ağları (YSA), son dönemdeki elde etmiş olduğu gelişmelerle bir çok disiplin içerisinde etkili bir araç olmayı başarmıştır. Bu etkinin en büyük sebeplerinden birisi, karşılaştığı problem ne olursa olsun, YSA'ların sahip olduğu esnek kavrama ve uyum gösterme yeteneğidir. Bu yetenek her ne kadar ağın mimarisi ile garanti edilebilir olsa da (ki bu evrensel yaklaşım teorisi ile verilmektedir), YSA'ların eğitim algoritmaları bunu karşılama konusunda yetersiz kalabilmektedir. Bu sebeple, YSA'ların nasıl eğitileceği her zaman üzerinde çalışılacak bir problem olmaya devam etmektedir. YSA'lar ilk olarak biyolojiden esinlenilerek ortaya konulmuş olsa da, zaman içerisindeki gelişimleri farklı bir rotayı takip ederek, özellikle de eğitim algoritmaları, biyolojik olarak akla yatkın olmaktan uzak bir hal almaya başlamıştır. Modern mimarilerin ve modellerin eğitiminin, biyolojik olarak bilinen prensiplerden biri olan yerellik ilkesini karşılamadığı bilinmektedir. Bu prensip Hebb kuralı olarak adlandırılıp, iki sinir hücresi arasındaki bağlantı olan sinapsın, bu iki hücrenin aktiviteleri ile belirlenmesi gerektiği şeklinde ifade edilir. Yerellik prensibine ek olarak, bir diğer bilinen biyolojik öğrenme mekanizması da nöromodülasyondur. Bu mekanizma, dikkat, uyarılma ve duygudurum gibi global sinyallerin seçili sinapslar ve nöronlar üzerinde etkili olarak öğrenmeyi düzenlemesi olarak açıklanmaktadır. Ne yazık ki çoğu modern mimari ve model bu tür biyolojik prensiplerden uzaktır. Özellikle de modern mimarilerde ve modellerde çok baskın bir şekilde kullanılan geriye-yayılım algoritmasının yerellik prensibini açık bir şekilde ihlal ettiği bilinmektedir. Bu sebepler ışığında, biyolojik olarak akla yatkın öğrenme algoritmaları geliştirmek için girişimler bulunulmaktadır. Özellikle de bu girişimlerin yerellik ilkesine dayanan öğrenme kurallarına Hebbian kurallar denilmektedir. YSA'ların eğitimini göz önüne aldığımızda en önemli algoritmalardan birisi stokastik gradyan inişi algoritmasıdır. Bu algoritma merkezi bir konumda olup, sahip olduğu çeşitli varyantlarla da çok yaygın bir şekilde kullanılmaktadır, dahası, Hebbian kurallara da adapte edilebilmektedir. Bu algortmanın en önemli özelliklerinden birisi de fizik orjinine sahip olması olup, istatistik fizikteki Langevin dinamiği ile ilişkili olmasıdır. Böylece, istatistik fizikten gelen görü ve yöntemlerle daha da geliştirilmeye açık olmasıdır. Fiziğin YSA'lar üzerindeki etkisini göz önüne aldığımızda ise bu etkinin önemli sonuçlarından birisi olarak enerji-bazlı YSA modellerinin gelişimine olanak tanımış olmasıdır. Bu modellerin başlıcaları arasında Hopfield ağları ve Boltzmann makineleri (BM) yer almaktadır. Bu modeller özellikle de kullandıkları enerji fonksiyonları sebebiyle spin sistemleri ile oldukça ilişkilidir. Dahası, bu modeller biyolojik öğrenmedeki yerellik ilkesini ihlal etmezler. Bu tez kapsamında, ilk olarak YSA'lar için başlıca araçları ve özellikle de kısıtlı BM (KBM) eğitimini fizik orjininde ele alıyoruz. KBM'ler (ya da BM ailesi modelleri) Boltzmann dağılımı temelinde inşa edilmelerinden, daha da önemlisi, etkileşen bir graf yapısı teşkil etmelerinden dolayı, içerdikleri bölüşüm fonksiyonun hesabının takip edilemezliği sebebiyle, yaklaşık tekniklere ihtiyaç duyarlar. Bu nedenle, fizik literatüründe önemli bir yer tutan, başlıca Markov zinciri Monte Carlo ve ortalama-alan yaklaşımı benzeri teknikleri derliyoruz. Daha sonra, biyolojik öğrenmenin esaslarını ve biyolojik akla yatkın modellerin temeli olan Hebbian öğrenme kurallarını içeren bir üniteye yer veriyoruz. Son olarak, bu tezdeki orijinal katkımız olan; üretken ve geri-beslemeli ağ sınıfında yer alan KBM'ler ve de ayırt edici ve ileri-beslemeli ağ sınıfında yer alan çoklu katmanlı algılayıcı ağları (ÇKA) için nöromodülasyon sinyalinin biyolojik olarak akla yatkın bir algoritma olan Krotov-Hopfield (KH) algoritması ile uygulamasını sunuyoruz. KH algoritması, sahip olduğu çeşitli bileşenlerle, homeostatik kısıtlar ve global inhibisyondan kaynaklanan yerleşik rekabet düzeni ve sahip olduğu basitleştirilmiş dikkat mekanizması ile nöromodülasyon sinyali için uygun bir çerçeve teşkil etmektedir. Bu yaklaşım, nöromodülasyonun doğrudan nöronlar arasında sinaptik bağlantılara ihtiyaç duymadan ikincil bir iletişim kanalı olarak işlev görmesinden ileri gelmektedir. Ayrıca, bu rekabetçi yaklaşımın bize sağlamış olduğu en önemli etkilerden biri, genellikle bir yapay sinir ağında bir katman içerisindeki nöronlar arasındaki bağlantıların olmamasından kaynaklanan sorunlara bir çözüm sunmasıdır. Önerimiz kapsamında, bu algoritmayı eğitim aşamasında stokastik gradyan Langevin dinamiği biçiminde ele alıyoruz. Burada KH algoritması, ne tür bir ağ durumunu giriş sinyali olarak aldığına göre, bunu yukarıdan aşağıya (bilişsel-odaklı) ve aşağıdan yukarıya (duyusal-odaklı) olmak üzere iki farklı şema şeklinde uyguluyoruz. İlk olarak, önerdiğimiz çerçeveyi KBM'lerde MNIST ve Kuzushiji MNIST veri setleri ile yeniden yapılandırma için kullanıyoruz. Ardından, sınıflandırma için geliştirilen bir varyant olan sınıf KBM'lerine KH modülasyonunun uygulamasını genişletiyoruz. Bütün KBM'leri, standart eğitim algoritması olarak kabul edilen contrastive divergence (CD) algoritması ile eğitiyoruz. Her bir KBM konfigürayonunda, farklı gizli birim boyutları, farklı ağırlık başlangıçları ve CD algoritmasının hiperparametresi olarak, farklı Gibbs örnekleme adımları kullanıyoruz. Gizli birim boyutları için 100 ve 500, ağırlık başlangıçları için standart normal ve LeCun olmak üzere, Gibbs örnekleme adımlarını da 1 ve 10 olarak seçiyoruz. Önerdiğimiz çerçeve ile oluşturduğumuz sınıf KBM'lerde standart sınf KBM'lere kıyasla on kat düşürülmüş parametre sayısı ile benzer doğruluk performansı gözlemledik. Dahası, yeniden yapılandırma görevlerinde de önerimiz daha iyi bir yeniden yapılandırma performansı sergilemiştir. Performans ölçütlerine ek olarak, önerimiz farklı ağırlık başlangıçlarına karşı bir tolerans göstermiştir. Bunun yanısıra, ezberleme (overfitting) olarak bilinen, ağın eğitim verisini iyi öğrenirken, eğitimi dışında verilen veri üzerindeki genelleştirme kabiliyetini kaybetmesi olgusu, önerdiğimiz çerçeve ile aşılarak, ezberlemeye karşı dayanıklılık sergilemiştir. Bütün bunlara ek olarak, önerdiğimiz çerçevede nöromodülasyon sinyalinin uygulanması, Langevin benzeri bir kurgu ile oluşturulduğundan, performans iyileştirmelerinin nöromodülasyonun sağladığı yönlendirici parametre güncellemelerinden mi kaynaklandığını yoksa bu güncellemelerin gürültülü bir yapı oluşturarak enerji (veya kayıp) fonksiyonu topografyasında daha iyi çözümler bulunmasına mı yol açtığını ek deneylerle inceledik. Bu deneylerde, nöromodulasyon güncellemeleri ile standart gradyan güncellemeleri arasındaki korelasyonu incelediğimizde, aralarında çok küçük bir negatif korelasyon olduğunu, ve böylece nöromodulasyonun enerji topografyasında daha iyi çözümleri bulmaya teşvik edici yönde bir katkıda bulunduğu anlaşılmaktadır. Bu bulguyu güçlendirmek için bir başka deneyde, modülasyon güncellemelerini rastgele karıştırarak gürültülü bir yapıya kavuşmasını sağladık. Bu gürültülü yapıdaki güncellemerle beraber hiçbir iyileştirme gözlemleyemedik. Bu açıkça iyileştirmenin yönlendirici nöromodülasyondan geldiğini göstermektedir. Benzer şekilde önerdiğimiz çerçeveyi, standart eğitim algoritmaları ile beraber ÇKA ağlarında da uyguladık. Burada da uyguladığımız çerçeve ile performans iyileştirmeleri ve daha hızlı bir eğitim süreci gözlemledik. Benzer şekilde, nöromodülasyon ve standart gradyan güncellemeleri arasındaki korelasyonlara da baktığımızda, KBM'deki ile benzer bulgular elde ettik. Sonuçlarımız genel olarak göstermektedir ki önermiş olduğumuz çerçeve benzeri nöromodulasyon uygulamalarının, modern ve kompleks mimarilerde de uygulanmasıyla biyolojik olarak akla yatkın modellerle son teknoloji modeller arasındaki açığın kapanmasına yardımcı olabilir. Dahası bu etkileşim sayesinde önerdiğimiz çerçeveye benzer bir şema ile yeni nesil çok daha yüksek performanslı modeller elde edilebilir.

Özet (Çeviri)

Artificial neural networks (ANNs) with their expressive power have shown great progress recently and have found applications across a wide range of disciplines. Although ANNs' hidden graph structures allow them to be promising in a given task, their training method does not guarantee that the network will perform well on the task. ANNs were originally inspired by biological neural networks in the brain. However, their evolution has followed a different trajectory, i.e., their training in modern architectures and models is considered biologically implausible. According to the Hebb rule, the strengths of the synapses between two neurons are determined by the activities of those neurons. This is called the locality principle. Synaptic plasticity in a biological neuron, along with the locality principle, is also regulated by a neuromodulatory signaling mechanism that reflects global contextual and sensory information, such as attention, mood, and arousal, operating on certain synapses and neurons, thereby regulating the efficacy of neurons and synapses. However, most modern ANN models and architectures do not involve such a mechanism. Furthermore, a majority of modern ANN models employ the backpropagation (BP) algorithm in their training, which violates the locality principle. In this regard, there are attempts to develop training algorithms that obey biological principles, which are called biologically plausible learning algorithms. In particular, the ones developed based on the locality principle are known as Hebbian learning rules. Given the training of ANNs, the stochastic gradient descent (SGD) algorithm and its variations play a central role and can be adopted for Hebbian rules as well. More importantly, it has a physics origin in nonequilibrium statistical physics, in conjunction with the Langevin dynamics. This connection allows SGD to be improved and investigated thoroughly via methods of statistical physics. Furthermore, the physics influence on ANNs has led to the development of energy-based models, a feedback (or recurrent) neural network type, e.g., Hopfield networks and Boltzmann machines (BMs), which are closely related to spin systems with respect to their energy functions. In particular, their training does not violate the locality principle. Within the scope of this thesis, we first provide a detailed survey on essential tools for ANNs, in particular, restricted BMs (RBMs) and their training by means of physics origin. The RBMs are a family of BMs, and their generative property is grounded on the Boltzmann distribution. The interacting graph structure of the RBMs (or more generally, the family of BM models) makes them nontrivial to train due to the intractability of partition function computation. Therefore, we review some approximations developed in statistical physics for their training, such as Markov chain Monte Carlo and mean-field-like approximations. Furthermore, we provide a review on the biological origin of learning and biologically plausible learning algorithms based on the Hebbian rules. Finally, we introduce our proposal, in which we employ the Krotov-Hopfield (KH) algorithm, a biologically plausible learning algorithm, as a neuromodulatory signaling mechanism for RBMs, a class of generative feedback networks, and multilayer perceptrons (MLPs), a class of discriminative, feedforward networks. The KH algorithm, with its built-in competition scheme arising from homeostatic constraint and global inhibition employs a simplified attention mechanism. This constitutes a proper neuromodulatory signaling framework for ANNs, as neuromodulation serves as a secondary communication among the neurons without the need for direct synapse connections. In our proposal, we adopt this algorithm in a stochastic gradient Langevin dynamics casting at the training process of RBMs and MLPs. We implement this concept with two different schemes, namely top-down (cognition-driven) and bottom-up (sensory-driven). We first apply KH modulation in RBMs for the reconstruction task using MNIST and Kuzushiji MNIST datasets. We then extend the application of KH modulation onto class RBMs (cRBMs), a variant of the RBM developed for the classification task. In each RBM configuration, we use different hidden unit sizes, different weight initializations, and different Gibbs sampling steps. With the framework we proposed, we observed a tenfold reduction in the number of parameters and superior accuracy in cRBMs. Similarly, in the reconstruction performed with RBMs, our proposal has demonstrated a better reconstruction. Furthermore, the framework has shown robustness to overfitting and tolerance to weight initialization in all of the RBM varieties. Since the adoption of the neuromodulation mechanism forms a Langevin-like casting, we conducted experiments to observe whether the performance improvement stems from the steering updates provided by the neuromodulation, or whether those updates form a noisy structure, thereby leading to finding better solutions. We found that the correlation between modulation and the standard gradient update exhibits a slight negative correlation, leading to exploration in the energy landscape. To conclude this, we also performed an experiment in which modulation updates were shuffled to form a noisy structure, which did not yield any performance gain. This explicitly demonstrated that performance gains are due to the steering neuromodulation rather than noisy updates. Similarly, we repeated the KH modulation in the MLP, accompanying its standard training. The experiments showed that the KH modulation schemes are superior to the standard MLP. We also repeated the experiment in which we measured the correlation between KH modulation and standard gradient updates for the MLPs. The results verified the findings we obtained for the RBMs. Our findings, overall, suggest that by employing schemes similar to the proposed framework in more complex and modern architectures, one can bridge the gap between biologically plausible learning algorithms and state-of-the-art learning models. Furthermore, this interaction may lead to the development of novel high-performance techniques.

Benzer Tezler

  1. Tez No

    226872

    İlköğretim fen ve teknoloji dersinde sistem dinamiği yaklaşımının tutuma, başarıya ve farklı becerilere etkisinin araştırılması

    The effect of the system dynamics approach on students attitude, scientific success and different skills in middle school science and technology course

    HASRET NUHOĞLU

    Doktora

    Türkçe

    Türkçe

    2008

    Eğitim ve ÖğretimGazi Üniversitesi

    İlköğretim Bölümü

    PROF. DR. NECATİ YALÇIN

  2. Tez No

    276700

    Modern mimarlıkta doğadan etkilenen form ve geleceğe yönelik yaklaşımlar

    Nature-inspired forms in modern architecture and futuristic approaches

    ÖZKAN ÖZÜLKÜ

    Yüksek Lisans

    Türkçe

    Türkçe

    2010

    İç Mimari ve DekorasyonMimar Sinan Güzel Sanatlar Üniversitesi

    İç Mimarlık Ana Bilim Dalı

    YRD. DOÇ. DR. BURAK TANSEL

  3. Tez No

    1019605

    Güncel metasezgisel yöntemlerin kullanılarak derin öğrenme yöntemlerinde hiper parametre ayarlarının araştırılması

    Investigating hyperparameter tuning in deep learning methods using up-to-date metaheuristic methods

    SÜLEYMAN ÇETİNER

    Yüksek Lisans

    Türkçe

    Türkçe

    2026

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolManisa Celal Bayar Üniversitesi

    Yazılım Mühendisliği Ana Bilim Dalı

    DOÇ. DR. OSMAN ALTAY

  4. Tez No

    836467

    Moleküler haberleşme sistemlerinde alıcı kestirim yöntemleri

    Receiver detection methods on molecular communications systems

    ERGİN ASLAN

    Doktora

    Türkçe

    Türkçe

    2023

    Elektrik ve Elektronik Mühendisliğiİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    PROF. DR. MEHMET ERTUĞRUL ÇELEBİ

  5. Tez No

    831963

    Makine öğrenmesi algoritmaları kullanılarak üniversite bölüm tercihi tahmini.

    Prediction of undergraduate major selection via machine learning algorithms

    HARUN ÇELİK

    Yüksek Lisans

    Türkçe

    Türkçe

    2023

    Elektrik ve Elektronik MühendisliğiBitlis Eren Üniversitesi

    Elektrik ve Elektronik Mühendisliği Ana Bilim Dalı

    DOÇ. RIDVAN UMAZ

    DR. ÖĞR. ÜYESİ AYŞE SALİHA SUNAR

Geri Dön