Geri Dön

Brain-inspired learning for face analysis in artificial neural networks: A multitask and continual learning framework

Yapay sinir ağlarında yüz analizi için beyinden ilham alan öğrenme: Çok görevli ve sürekli öğrenme sistemi

  1. Tez No: 783670
  2. Yazar: SEFA BURAK OKCU
  3. Danışmanlar: PROF. DR. ABDULLAH AYDIN ALATAN, DR. ÖĞR. ÜYESİ UMUT ÖZGE
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2023
  8. Dil: İngilizce
  9. Üniversite: Orta Doğu Teknik Üniversitesi
  10. Enstitü: Enformatik Enstitüsü
  11. Ana Bilim Dalı: Bilişsel Bilim Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 84

Özet

Bağlantıcı modellerde farklı dağılımlardan gelen veri dizisi üzerinden öğrenme sırasında katastrofik unutma olayı yaygındır. Diğer yandan, insan beyni eski bilgileri saklarken sürekli olarak deneyimler dizisinden öğrenme yeteneğine sahiptir. Son çalışmalar, yapay sistemlerde bu sorunu azaltmak için düzenleme, parametre ayrımı ve yeniden oynatma gibi beyinden ilham alan yöntemleri kullanmaktadır. Önceki çalışmaları takiben yaş tahmini, ikili cinsiyet tanıma, duygu tanıma ve yüz tanıma içeren yüz analizi görevlerinde farklı sürekli öğrenme yöntemlerini inceledik. Nörolojik bulgular, beyinde yüz algılama için uzmanlaşmış işlevsel ve sinirsel alanların bulunduğunu işaret etmektedir. Benzer şekilde, biz bu çalışmada yüz analizini yapay sinir ağlarında da sıklıkla görüldüğü gibi iki aşamada inceledik: yüz tespiti ve yüz özellik analizi. Öncelikle, çoklu görev öğrenimi çalışarak yüz tespiti ve yüz işaret noktaları tespiti üzerine deneyler gerçekleştirdik. İkinci olarak, biyolojik sistemlerden ilham alan bazı sürekli öğrenme yöntemlerini kullanarak yapay modellerdeki katastrofik girişimi aşmayı hedefledik. İlk deneylerimizde, önerdiğimiz model performans artışının yanı sıra yüz ve yüz işaret noktaları tespitini verimli bir şekilde öğrenebildi. Sonraki deneylerimizde, kullanılan sürekli öğrenme yöntemlerinin görev artımlı senaryoda sınıf artımlı senaryoya göre daha iyi performans gösterdiğini gözlemledik. Bununla birlikte, iki farklı sürekli öğrenme yönteminin bir kombinasyonu, sınıf artımlı senaryolarda dikkate değer bir performans artışı sağladı. Sonuç olarak, unutmanın azaltılması ve çoklu görev performansına ulaşılması için farklı alternatif nörobilimden ilham alınan yöntemlerin birleştirilmesi gerekmektedir.

Özet (Çeviri)

The phenomenon known as catastrophic forgetting is common in connectionist models while learning from a sequence of data from different distributions. On the other hand, the human brain has the ability to learn from a sequence of experiences continually while retaining old information. Recent studies utilize different brain-inspired methods such as regularization, parameter isolation, and replay to alleviate this problem in artificial systems. Following the previous studies, we investigated different continual learning methods on face analysis tasks involving age estimation, binary gender recognition, emotion recognition, and face recognition. Neurological findings implicate that there are different specialized functional and neural areas in the brain for the perception of faces. Similarly, we analyzed faces in two stages, very common in artificial neural networks: face detection and face attributes analysis. Firstly, experiments for learning face detection and facial landmark detection were conducted by studying multitask learning. Secondly, some continual learning methods inspired by biological systems were leveraged to overcome catastrophic interference in artificial models. In the first experiments, our proposed model was able to learn both face and facial landmark detection efficiently, along with a performance boost. In later experiments, we observed that the utilized continual learning methods performed better on task incremental scenarios than class incremental scenarios. Nevertheless, a combination of two different continual learning methods resulted in remarkable performance improvement in class incremental scenarios. As a result, the combination of different alternative neuroscience-inspired methods is required for mitigating forgetting and approaching multitask performance.

Benzer Tezler

  1. Automatic caricature recognition

    Otomatik karikatür tanıma

    BAHRİ ABACI

    Yüksek Lisans

    İngilizce

    İngilizce

    2015

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    PROF. DR. TAYFUN AKGÜL

  2. Machine learning for abnormalities of the heart rhythm classification

    Başlık çevirisi yok

    FIRAS HAMAD AHMED

    Yüksek Lisans

    İngilizce

    İngilizce

    2021

    Elektrik ve Elektronik MühendisliğiAltınbaş Üniversitesi

    Bilgi Teknolojileri Ana Bilim Dalı

    PROF. DR. SEFER KURNAZ

  3. A brain-inspired cognitive architecture for developmental and social human-robot interaction

    Gelişimsel ve sosyal insan-robot etkileşimi için beyin esinli bilişsel mimari

    EVREN DAĞLARLI

    Doktora

    İngilizce

    İngilizce

    2019

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Kontrol ve Otomasyon Mühendisliği Ana Bilim Dalı

    DOÇ. DR. GÜLAY ÖKE GÜNEL

    DOÇ. DR. HATİCE KÖSE

  4. Learning how to select an action: From bifurcation theory to the brain inspired computational model

    Nasıl eylem seçileceğini öğrenme: Dallanma teorisinden beyin esinlenmeli hesaplamalı modele

    BERAT DENİZDURDURAN

    Yüksek Lisans

    İngilizce

    İngilizce

    2012

    Biyomühendislikİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    DOÇ. DR. NESLİHAN SERAP ŞENGÖR

  5. Artificial neural networks for electroencephalogram classification

    Başlık çevirisi yok

    ALI MOHSIN LATEEF ALKHAFAJI

    Yüksek Lisans

    İngilizce

    İngilizce

    2021

    Bilim ve TeknolojiAltınbaş Üniversitesi

    Bilgi Teknolojileri Ana Bilim Dalı

    PROF. DR. OSMAN NURİ UÇAN