Geri Dön

Adaptif öğrenme oranı ve karmaşık sayıların makine öğrenmesine etkisi

Adaptive learning rate and the effect of complex numbers on machine learning

PDF İndir

  1. Tez No: 985263
  2. Yazar: HÜLYA SAYGILI
  3. Danışmanlar: PROF. DR. ALİ KARCI
  4. Tez Türü: Doktora
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: KarcıFANN, yapay sinir ağları, SGD, Momentumlu GD, ADAM, KarcıFANN, artificial neural networks, SGD, momentum-based GD, ADAM
  7. Yıl: 2025
  8. Dil: Türkçe
  9. Üniversite: İnönü Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: Belirtilmemiş.

Özet

Öğrenme katsayısı, yapay sinir ağlarının eğitim performansını doğrudan etkileyen temel hiperparametrelerden biridir. Bu parametrenin uygun seçilmemesi, ağın yakınsama hızını, genelleme kabiliyetini ve eğitim sürecini olumsuz yönde etkilemektedir. Literatürde bu problemin çözümü için adaptif öğrenme katsayıları, hata temelli dinamik ayarlamalar ve katman bazlı yöntemler önerilmiş olmakla birlikte kesin ve genel bir çözüm geliştirilememiştir. Sabit bir öğrenme katsayısının kullanımından kaynaklanan sınırlamaları gidermek amacıyla KarcıFANN yöntemi kullanılmaktadır. KarcıFANN yöntemi, kesir dereceli türev yapısı nedeniyle bazı durumlarda karmaşık değerler üretmektedir. Eğitim sürecinde reel bileşenlerin işlenmesi, bilgi kaybına ve optimizasyon kararsızlıklarına yol açabilmektedir. Bu tezde, YSA'larda karşılaşılan bu problemleri çözmek amacıyla karmaşık değer kullanımının öğrenmeye etkisi incelenmektedir. Bu doğrultuda reel ve sanal bileşenleri birlikte işleyen bir yöntem önerilmektedir. Digits, MNIST Rotation 45°, 2BFT-Digits ve 2BFT-MNIST Rotation 45° veri setleri kullanılarak yapılan sınıflandırma sürecinde; reel değerlerin kullanıldığı Reel model, reel ve sanal bileşenlerin birlikte kullanıldığı Kompleks model ile karmaşık değerin genlik bilgisini değerlendiren Abs modeli kullanılmıştır. Elde edilen sonuçlar, Kompleks modelin en yüksek performansa sahip olduğunu ve Reel modelin frekans dönüşümlü verilerde düşük performans sergilediğini göstermiştir. Ayrıca, Abs modelinde faz bilgisi kullanılamadığından başarımın düştüğü görülmüşür. Bu bulgular, karmaşık sayılarla hesaplamaların, KarcıFANN'ın öğrenme performansını belirgin biçimde artırdığını kanıtlamıştır. KarcıFANN ve klasik YSA yöntemlerinin performansları, Kuzushiji-MNIST, GinaPrior2 ve Sign-MNIST veri setlerinin sınıflandırılmasında karşılaştırmalı olarak değerlendirilmiştir. Ayrıca, SGD, Momentumlu GD ve Adam optimizasyon yöntemleri ile KarcıFANN'ın yakınsama davranışları XOR problemi üzerinde incelenmiştir. Son olarak KarcıFANN'ın farklı hata fonksiyonları (MSE, RMSE ve MAE) ile kullanımının modellerin performansına etkileri incelenmiştir.

Özet (Çeviri)

The learning coefficient is one of the fundamental hyperparameters that directly affects the training performance of artificial neural networks. An improper selection of this parameter can negatively impact the network's convergence rate, generalization ability, and overall training process. Although adaptive learning coefficients, error-based dynamic adjustments, and layer-based methods have been proposed in the literature to solve this problem, a precise and universal solution has not yet been developed. To overcome the limitations arising from the use of a fixed learning coefficient, the KarcıFANN method is employed. Due to its fractional-order derivative structure, the KarcıFANN method can produce complex values in certain cases. Processing only the real components during training can lead to information loss and optimization instabilities. In this thesis, the effect of using complex values on learning in artificial neural networks (ANNs) is examined. Accordingly, a method that processes real and imaginary components together is proposed.In the classification process carried out using the Digits, MNIST Rotation 45°, 2BFT-Digits, and 2BFT-MNIST Rotation 45° datasets, three models were used: the Real model, which uses only real values, the Complex model, which uses both real and imaginary components together, and the Abs model, which evaluates only the magnitude information of the complex values. The results showed that the Complex model achieved the highest performance, while the Real model exhibited lower performance on frequency-transformed data. Moreover, since the Abs model does not utilize phase information, its performance was found to decrease. These findings demonstrate that computations using complex numbers significantly enhance the learning performance of the KarcıFANN method. The performances of KarcıFANN and classical ANN methods were comparatively evaluated on the Kuzushiji-MNIST, GinaPrior2, and Sign-MNIST datasets. In addition, the convergence behaviors of KarcıFANN with SGD, Momentum-based GD, and Adam optimization methods were examined using the XOR problem. Finally, the effects of using different loss functions (MSE, RMSE, and MAE) with KarcıFANN on model performance were analyzed.

Benzer Tezler

  1. Tez No

    959697

    Reinforcement-learning control of a hybrid airship using a high-fidelity digital twin

    Yüksek doğruluklu dijital ikiz kullanarak bir hibrit hava gemisinin pekiştirmeli öğrenme ile denetimi

    NIKOLAY LYAN

    Yüksek Lisans

    İngilizce

    İngilizce

    2025

    Havacılık ve Uzay Mühendisliğiİstanbul Teknik Üniversitesi

    Uçak ve Uzay Mühendisliği Ana Bilim Dalı

    YRD. DOÇ. DR. İSMAİL BAYEZİT

  2. Tez No

    945656

    Kuantum devrelerin optimizasyonu için yapay zeka tabanlı yaklaşımlar

    Artificial intelligence-based approaches for optimization of quantum circuits

    TUBA ŞANLI

    Yüksek Lisans

    Türkçe

    Türkçe

    2025

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolFırat Üniversitesi

    Adli Bilişim Mühendisliği Ana Bilim Dalı

    DOÇ. DR. ORHAN YAMAN

  3. Tez No

    978091

    Computation of cell paths using adaptive tracking integrated with learning based segmentation and identification of movement patterns

    Öğrenme tabanlı segmentasyon ile entegre adaptif takip kullanılarak hücre yollarının hesaplanması ve hareket biçimlerinin belirlenmesi

    KÜBRA ATEŞ

    Yüksek Lisans

    İngilizce

    İngilizce

    2025

    Bilim ve Teknolojiİstanbul Teknik Üniversitesi

    Moleküler Biyoloji-Genetik ve Biyoteknoloji Ana Bilim Dalı (disiplinlerarası)

    PROF. DR. HALİL BAYRAKTAR

  4. Tez No

    947140

    Fractional-order derivative based adaptive methods for control and optimization

    Kontrol ve optimizasyon için kesir mertebeli türev tabanlı adaptif yöntemler

    MERT CAN KURUCU

    Doktora

    İngilizce

    İngilizce

    2025

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Kontrol ve Otomasyon Mühendisliği Ana Bilim Dalı

    PROF. DR. MÜJDE GÜZELKAYA

    PROF. DR. İBRAHİM EKSİN

  5. Tez No

    724566

    Adaptive signal processing based intelligent method for fault detection and classification in microgrids

    Mikroşebekelerde arıza tespiti ve sınıflandırması için adaptif sinyal işleme tabanlı akıllı yöntem

    RESUL AZİZİ

    Doktora

    İngilizce

    İngilizce

    2022

    Enerjiİstanbul Teknik Üniversitesi

    Elektrik Mühendisliği Ana Bilim Dalı

    PROF. DR. ŞAHİN SERHAT ŞEKER

Geri Dön