Geri Dön

Learning and generalizing finite state automata using higher order recurrent neural networks

Yüksek dereceli yinelenen yapay sinirsel ağlar kullanarak sonlu durumlu özdevimi öğrenme ve genelleme

  1. Tez No: 56892
  2. Yazar: ONUR BOYACI
  3. Danışmanlar: Belirtilmemiş.
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: yinelenen yapay sinirsel ağ, sonlu durumlu özdevim, yüksek dereceli bağlantılar vi, Yapay sinir ağları, recurrent neural network, finite state automata, higher-order connec tions IV, Artificial neural networks
  7. Yıl: 1996
  8. Dil: İngilizce
  9. Üniversite: Orta Doğu Teknik Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: Belirtilmemiş.

Özet

ÖZ YÜKSEK DERECELİ YİNELENEN YAPAY SİNİRSEL A?LAR KULLANARAK SONLU DURUMLU ÖZDEVİMİ Ö?RENME VE GENELLEME Boyacı, Onur Yüksek Lisans, Bilgisayar Mühendisliği Bölümü Tez Yöneticisi: Assoc. Prof. Dr. Marifi Güler Eylül 1996, 63 sayfa Yüksek dereceli yinelenen yapay sinirsel ağların sonlu durumlu özdevimi öğre nebilme kabiliyeti olduğu kanıtlanmıştı. Özellikle ikinci dereceden üniteler kullanan ağlar bu işte, gerçek zamanlı, ileri-eğitmeli bir algoritma kullanarak başarılı olmuşlardı. Bu tez çalışmasında, çok bilinen bir ikinci-derece yapıyı, öğrenmesini, ve eğitilmesini inceledik. İnceleyip, tanıttıktan sonra, yapısını yüksek dereceli üniteler kullanıp geliştirdik ve örnek gramerlerimize daha iyi çözümler aradık. Yüksek dereceli üniteler koyarak, özdevimin durumları ve girdileri arasındaki kompleks ilişkileri vurguladık ve modellemeye çalıştık. Sonra ağımızı bazı perfor-mans gramerlerindeki dizgileri gramere ait veya değil olarak sınıflandırması için eğittik, yani onu o gramerler için birer sonlu durumlu özdevim olacak şekilde eğittik. Yakınsama ve genelleme gösteren sonuçlarımızı ikinci dereceli ünite ağlarınınki ile karşılaştırdık ve gramer çıkarım probleminde dereceyi arttırmanın etk isini araştırdık. Derece arttırmanın hem yakınsama zamanını azalttığını hemde genelleme performansını arttırdığını gördük. Özellikle ağın test kümesinde yaptığı ortalama hata sayısı biz dereceyi arttırdıkça azaldı. Bu da daha yüksek dereceli modeller için daha iyi bir genelleme performansı anlamına geliyordu. Çalışmanın sonunda, bazı sonuçlar çıkarıldı ve daha ileri çalışma yönü ortaya konuldu.

Özet (Çeviri)

ABSTRACT LEARNING AND GENERALIZING FINITE STATE AUTOMATA USING HIGHER-ORDER RECURRENT NEURAL NETWORKS Boyacı, Onur M.S., Department of Computer Engineering Supervisor: Assoc. Prof. Dr. Marifi Güler September 1996, 63 pages It has been shown that recurrent neural networks have the ability to learn finite state automata from example strings. In particular, recurrent neural networks us ing second-order units have been successful at this task using a real-time, forward training algorithm. In this thesis, we studied the architecture, learning method, and training of a well-known type of second-order recurrent neural network. After examining, and describing it, we enhanced its architecture by adding higher-order connections, and sought for better solutions to the example grammars using the same architecture, and learning methods. By adding higher-order connections, we emphasized and modeled the complex interactions between states and inputs IIIof a recurrent network structure. Then we trained our network to classify strings as belonging or not belonging to some benchmark grammars, i.e., we trained our network to be some finite state automata for those grammars. We compared our results that show the convergence and generalization results to that of second-order nets, and investigated the effects of increasing the order in the grammatical inference problem. We explored the capabilities of such an higher order model in detail, and found that increasing the order helped the net work to improve both its convergence time and its generalization performance. Especially the average number of errors that the network made in the testing set considerably decreased as we increased the order. That meant a better general ization performance for higher order models. Finally, some conclusions are drawn and further directions of study are stated.

Benzer Tezler

  1. Tez No

    35772

    A New higher-order binary input neural unit : learning and generalizing effectively via using minimal number of monomials

    Yeni bir ikilik-girdili yüksek-dereceli nöral birim : en az sayıda monamiyal kullanarak öğrenme ve genelleme

    EROL ŞAHİN

    Yüksek Lisans

    İngilizce

    İngilizce

    1994

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik Üniversitesi

    DOÇ.DR. MARİFİ GÜLER

  2. Tez No

    399825

    Use of learning trajectories based instruction to restructure mathematical content and student knowledge of pre-service elementary teachers

    Öğrenme rotaları temelli öğretimin sınıf öğretmen adaylarının matematiksel alan ve öğrenci bilgilerini yeniden yapılandırılmasında kullanımı

    ZUHAL YILMAZ

    Doktora

    İngilizce

    İngilizce

    2015

    Eğitim ve ÖğretimOrta Doğu Teknik Üniversitesi

    İlköğretim Ana Bilim Dalı

    DOÇ. DR. ÇİĞDEM HASER

  3. Tez No

    985643

    Toward foundations of multi-team learning: Convergence, coordination, and equilibrium

    Çok takımlı öğrenmenin temellerine doğru: Yakınsama, iş birliği ve denge

    AHMED SAİD DÖNMEZ

    Yüksek Lisans

    İngilizce

    İngilizce

    2025

    Elektrik ve Elektronik Mühendisliğiİhsan Doğramacı Bilkent Üniversitesi

    Elektrik ve Elektronik Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ MUHAMMED ÖMER SAYIN

    PROF. SİNAN GEZİCİ

    PROF. FARUK POLAT

  4. Tez No

    812314

    A comparative study of nonlinear model predictive control and reinforcement learning for path tracking

    Yol izleme için doğrusal olmayan model öngörülü kontrol ve pekiştirmeli öğrenmenin karşılaştırmalı çalışması

    GAMZE TÜRKMEN

    Yüksek Lisans

    İngilizce

    İngilizce

    2022

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Kontrol ve Otomasyon Mühendisliği Ana Bilim Dalı

    PROF. DR. OVSANNA SETA ESTRADA

  5. Tez No

    623467

    Pekiştirmeli öğrenme problemlerinde keşif ve genelleştirme yöntemleri

    Exploration and generalization methods in reinforcement learning problems

    KIVANÇ GÜÇKIRAN

    Yüksek Lisans

    Türkçe

    Türkçe

    2020

    Elektrik ve Elektronik MühendisliğiYıldız Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ BÜLENT BOLAT

Geri Dön