Continual learning in artificial neural networks
Yapay sinir ağlarında sürekli öğrenme
- Tez No: 892303
- Danışmanlar: DOÇ. DR. HALE ILGAZ
- Tez Türü: Yüksek Lisans
- Konular: 11111, Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, 12345, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2024
- Dil: İngilizce
- Üniversite: Ankara Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Yapay Zeka Teknolojileri Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 55
Özet
Yapay sinir ağları, ses ve görüntü tabanlı alanlarda gerçekleştirdiği dil ve görüntü işleme görevleri ve sınıflandırma alanındaki başarıları nedeniyle popülerlik kazanmıştır. Başarılı performansına karşın, sinir ağlarının insan öğrenme mekanizmasından farklı olarak öğrenmenin sürekliliği anlamında kesintiye uğrayabildiği görülmüştür. Yapay sinir ağlarının sürekli öğrenme performansını değerlendirmek için yapılan çalışmalar, sınıflandırma görevleri üzerine yoğunlaşmıştır. Bu çalışma kapsamında yapay sinir ağlarında sürekli öğrenmenin kapsamı ve önemi, yıkıcı unutma problemi, öğrenme performansının karşılaştırılması için izlenen yöntem ve bu alanda yapılan çalışmalar incelenmiştir. Bu doğrultuda, yıkıcı unutma probleminin önüne geçmek için yapılan araştırmalar incelenerek, önerilen çözüm yöntemleri incelenmiştir. Güncel yöntemler model yapısının değişimine dayalı yöntemler, regülarizasyona dayalı yöntemler ve tekrarlamaya dayalı yöntemler olarak üç ana gruba ayrılmaktadır. Bu çalışmada bu kategorilerin her birini temsil eden birer algoritma ve bir adet hibrit algoritma bir sürekli öğrenme problemi üzerinde incelenerek, karşılaştırmalı sonuçlar sunulmuştur. Bir yapay sinir ağının insan öğrenme sürecine benzer bir sürekli öğrenmeye sahip olması için gereken özellikler modelin öğrenme performansı, hesaplama ve bellek kullanımı, ileri transfer özelliğinin mevcut olması, geri transfer özelliğinin mevcut olması ve minimum veri toplama gereksinimi olarak belirtilmiştir. Bu bilgiler ışığında, bu tez kapsamında yer alan sürekli öğrenme algoritmaları, belirtilen metrikler üzerinden karşılaştırılarak sinir ağlarındaki sürekli öğrenme performansı değerlendirilmiştir.
Özet (Çeviri)
Artificial neural networks have gained popularity due to their success in language and image processing tasks and classification in audio and image-based domains. Despite its successful performance, it has been observed that neural networks, unlike human learning mechanisms, can be interrupted in terms of the continuity of learning. Studies to evaluate the continual learning performance of neural networks have focused on classification tasks. In this study, the scope and importance of continual learning in artificial neural networks, the catastrophic forgetting problem, the methodology for comparing learning performance and the studies in this field are analyzed. In this regard, the research conducted to prevent the catastrophic forgetting problem are reviewed and the proposed solution methods were examined. Current methods are divided into three main groups: methods based on change of the model structure, methods based on regularization and methods based on rehearsal. In this study, one algorithm representing each of these categories and one hybrid algorithm are examined on a continual learning problem and comparative results are presented. The properties required for an artificial neural network to have continual learning similar to the human learning process are stated as the learning performance of the model, computation and memory usage, forward transfer capability, backward transfer capability and minimum data collection requirement. In the light of this information, the continual learning algorithms in this thesis were compared based on the specified metrics and the continual learning performance in neural networks was evaluated.
Benzer Tezler
- Brain-inspired learning for face analysis in artificial neural networks: A multitask and continual learning framework
Yapay sinir ağlarında yüz analizi için beyinden ilham alan öğrenme: Çok görevli ve sürekli öğrenme sistemi
SEFA BURAK OKCU
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik ÜniversitesiBilişsel Bilim Ana Bilim Dalı
PROF. DR. ABDULLAH AYDIN ALATAN
DR. ÖĞR. ÜYESİ UMUT ÖZGE
- Continual learning with sparse progressive neural networks
Seyrek ilerlemeli sinir ağları ile sürekli öğrenme
ESRA ERGÜN
Yüksek Lisans
İngilizce
2020
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Bilimleri Ana Bilim Dalı
DOÇ. DR. BEHÇET UĞUR TÖREYİN
- Derin yapay sinir ağlarını kullanarak görüntü başlıkları üretme
Generating image captions using deep neural networks
MEHMET ALİ CAN ERTUĞRUL
Yüksek Lisans
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKocaeli ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. SEVİNÇ İLHAN OMURCA
- Beyin mr görüntülerini sınıflandırarak yapay sinir ağları kullanarak beyin tümörü tespiti
Brain tumor detection using neural networks by classifying brain mri images
AHMED M A ABUSAMRA
Yüksek Lisans
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKütahya Dumlupınar ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ MUAMMER AKÇAY
- Kriz dönemlerinde yapay zekâ yöntemleri ile farklı amaç ve altyapıya sahip kripto para endeks tahmini ve karşılaştırması: Bitcoin ve Etheryum örneği
In crisis periods, artificial intelligence methods and cryptocurrency index estimation and comparison with different purposes and infrastructure: The example of Bitcoin and Ethereum
FÜSUN ŞENTÜRK
Yüksek Lisans
Türkçe
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolMuğla Sıtkı Koçman ÜniversitesiYönetim Bilişim Sistemleri Ana Bilim Dalı
DR. ÖĞR. ÜYESİ MUHAMMER İLKUÇAR