Brain-inspired learning for face analysis in artificial neural networks: A multitask and continual learning framework
Yapay sinir ağlarında yüz analizi için beyinden ilham alan öğrenme: Çok görevli ve sürekli öğrenme sistemi
- Tez No: 783670
- Danışmanlar: PROF. DR. ABDULLAH AYDIN ALATAN, DR. ÖĞR. ÜYESİ UMUT ÖZGE
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2023
- Dil: İngilizce
- Üniversite: Orta Doğu Teknik Üniversitesi
- Enstitü: Enformatik Enstitüsü
- Ana Bilim Dalı: Bilişsel Bilim Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 84
Özet
Bağlantıcı modellerde farklı dağılımlardan gelen veri dizisi üzerinden öğrenme sırasında katastrofik unutma olayı yaygındır. Diğer yandan, insan beyni eski bilgileri saklarken sürekli olarak deneyimler dizisinden öğrenme yeteneğine sahiptir. Son çalışmalar, yapay sistemlerde bu sorunu azaltmak için düzenleme, parametre ayrımı ve yeniden oynatma gibi beyinden ilham alan yöntemleri kullanmaktadır. Önceki çalışmaları takiben yaş tahmini, ikili cinsiyet tanıma, duygu tanıma ve yüz tanıma içeren yüz analizi görevlerinde farklı sürekli öğrenme yöntemlerini inceledik. Nörolojik bulgular, beyinde yüz algılama için uzmanlaşmış işlevsel ve sinirsel alanların bulunduğunu işaret etmektedir. Benzer şekilde, biz bu çalışmada yüz analizini yapay sinir ağlarında da sıklıkla görüldüğü gibi iki aşamada inceledik: yüz tespiti ve yüz özellik analizi. Öncelikle, çoklu görev öğrenimi çalışarak yüz tespiti ve yüz işaret noktaları tespiti üzerine deneyler gerçekleştirdik. İkinci olarak, biyolojik sistemlerden ilham alan bazı sürekli öğrenme yöntemlerini kullanarak yapay modellerdeki katastrofik girişimi aşmayı hedefledik. İlk deneylerimizde, önerdiğimiz model performans artışının yanı sıra yüz ve yüz işaret noktaları tespitini verimli bir şekilde öğrenebildi. Sonraki deneylerimizde, kullanılan sürekli öğrenme yöntemlerinin görev artımlı senaryoda sınıf artımlı senaryoya göre daha iyi performans gösterdiğini gözlemledik. Bununla birlikte, iki farklı sürekli öğrenme yönteminin bir kombinasyonu, sınıf artımlı senaryolarda dikkate değer bir performans artışı sağladı. Sonuç olarak, unutmanın azaltılması ve çoklu görev performansına ulaşılması için farklı alternatif nörobilimden ilham alınan yöntemlerin birleştirilmesi gerekmektedir.
Özet (Çeviri)
The phenomenon known as catastrophic forgetting is common in connectionist models while learning from a sequence of data from different distributions. On the other hand, the human brain has the ability to learn from a sequence of experiences continually while retaining old information. Recent studies utilize different brain-inspired methods such as regularization, parameter isolation, and replay to alleviate this problem in artificial systems. Following the previous studies, we investigated different continual learning methods on face analysis tasks involving age estimation, binary gender recognition, emotion recognition, and face recognition. Neurological findings implicate that there are different specialized functional and neural areas in the brain for the perception of faces. Similarly, we analyzed faces in two stages, very common in artificial neural networks: face detection and face attributes analysis. Firstly, experiments for learning face detection and facial landmark detection were conducted by studying multitask learning. Secondly, some continual learning methods inspired by biological systems were leveraged to overcome catastrophic interference in artificial models. In the first experiments, our proposed model was able to learn both face and facial landmark detection efficiently, along with a performance boost. In later experiments, we observed that the utilized continual learning methods performed better on task incremental scenarios than class incremental scenarios. Nevertheless, a combination of two different continual learning methods resulted in remarkable performance improvement in class incremental scenarios. As a result, the combination of different alternative neuroscience-inspired methods is required for mitigating forgetting and approaching multitask performance.
Benzer Tezler
- Automatic caricature recognition
Otomatik karikatür tanıma
BAHRİ ABACI
Yüksek Lisans
İngilizce
2015
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. TAYFUN AKGÜL
- Machine learning for abnormalities of the heart rhythm classification
Başlık çevirisi yok
FIRAS HAMAD AHMED
Yüksek Lisans
İngilizce
2021
Elektrik ve Elektronik MühendisliğiAltınbaş ÜniversitesiBilgi Teknolojileri Ana Bilim Dalı
PROF. DR. SEFER KURNAZ
- A brain-inspired cognitive architecture for developmental and social human-robot interaction
Gelişimsel ve sosyal insan-robot etkileşimi için beyin esinli bilişsel mimari
EVREN DAĞLARLI
Doktora
İngilizce
2019
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiKontrol ve Otomasyon Mühendisliği Ana Bilim Dalı
DOÇ. DR. GÜLAY ÖKE GÜNEL
DOÇ. DR. HATİCE KÖSE
- Learning how to select an action: From bifurcation theory to the brain inspired computational model
Nasıl eylem seçileceğini öğrenme: Dallanma teorisinden beyin esinlenmeli hesaplamalı modele
BERAT DENİZDURDURAN
Yüksek Lisans
İngilizce
2012
Biyomühendislikİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
DOÇ. DR. NESLİHAN SERAP ŞENGÖR
- Artificial neural networks for electroencephalogram classification
Başlık çevirisi yok
ALI MOHSIN LATEEF ALKHAFAJI
Yüksek Lisans
İngilizce
2021
Bilim ve TeknolojiAltınbaş ÜniversitesiBilgi Teknolojileri Ana Bilim Dalı
PROF. DR. OSMAN NURİ UÇAN