Geri Dön

The influence of combinatorial designs used in deep neural networks to prevent overfitting

Derin sinir ağlarında aşırı öğrenmeyi engellemek için kullanılan kombinatöryel tasarımların etkisi

  1. Tez No: 725346
  2. Yazar: MUHAMMET ALİ ÖZTÜRK
  3. Danışmanlar: PROF. DR. ABDURRAHMAN MUHAMMED ULUDAĞ
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Matematik, Computer Engineering and Computer Science and Control, Mathematics
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2021
  8. Dil: İngilizce
  9. Üniversite: Galatasaray Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Matematik Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 71

Özet

Bir matematik konusu olarak kombinatoryal tasarımlar, kombinatorik, grafik teorisi, sonlu geometri, kodlama teorisi, kriptografi ve sayı teorisi gibi alanlarla derin bağlantılara sahiptir ve farklı alanlardan pek çok araştırmanın ilgisini çekmiştir. Bilinen ilk kombinatoryal tasarım örneği Hindistan'da, sihirli bir kare kullanarak 16 farklı maddeden seçilen 4 maddeyi kullanarak parfüm yapmak amacıyla MS 587 civarında yazılan, Varahamihira'nın Brhat Samhita kitabında bulunur. Kombinatoryal tasarımlar, yaygın olarak bilinen Kirkman'ın okul kızı probleminde de kullanılmaktadır. Yaygın kabul gören görüşe göre, modern blok tasarım çalışmaları, 1936'da istatistikçi F. Yates'in yazdığı bir makalenin yayınlanmasıyla başlamıştır. Tezimize kombinatoryal tasarımları anlatarak giriş yapacağız. Sonrasında ise çözmek istediğimiz problemin türünden, tam kaplama probleminden, bahsedeceğiz. Bu problem Donald Knuth'un X Algoritmasını kullanarak çözülebiliyor. Dolayısıyla, daha sonrasında aşırı öğrenmeyi sinir ağlarında önlemek için kullanacağımız dengeli tamamlanmamış blok tasarımları tam kaplama problemini çözerek üretecek olan algoritmadan ve aşamalarından bahsedeceğiz. Bu tezde, rastlantısallık yerine bilinen bir örüntüyü (BIBD'leri) kullanarak makine öğreniminde aşırı uyumu başarıyla önlemenin mümkün olduğunu gösteriyoruz. Son olarak, sonuçlarımızı paylaşacağız ve bunları yaygın olarak bilinen ve kullanılan rastgele bırakma yöntemiyle karşılaştıracağız. Ayrıca sonuçlarımızı, hiçbir düzenleme uygulanmayan modellerle de karşılaştıracağız.

Özet (Çeviri)

Combinatorial designs, as a mathematical subject, has deep connections with the fields such as combinatorics, graph theory, finite geometry, coding theory, cryptography and number theory and has attracted many researches from different fields. The combinatorial design found in the book Brhat Samhita, written by Varahamihira around 587 BC, was used to produce perfume by selecting 4 items from 16 different items with the help of a magic square. This is first known example of combinatorial designs. Combinatorial designs are used in widely known Kirkman's school girl problem. In the widely accepted view, modern study of block designs began in 1936 with the publication of an article by the statistician F. Yates. In this thesis, firstly, we provide an introduction about combinatorial designs and their properties. We will also introduce machine learning fundamentals that is required for our problem. Then, the problem that is being solved to generate BIBDs, exact covering problem will be mentioned. This NP-complete problem can be solved using Donald Knuth's Algorithm X. At this step, we will be explaining Algorithm X's algorithm and its implementation. Generated BIBDs will be used in neural networks, which have been built manually to prevent overfitting in machine learning. In this thesis, we show that it is possible to prevent overfitting in machine learning succesfully by using a known pattern (BIBDs) in dropout instead of randomness. Finally, we will share our results and compare them with widely known and used random dropout method. We will also compare our results with no-regularization applied models.

Benzer Tezler

  1. Hybridization of probabilistic graphical models and metaheuristics for handling dynamism and uncertainty

    Değişimin ve belirsizliğin ele alınması için olasılıksal çizgesel biçelerin ve sezgi-üstlerinin melezleştirilmesi

    GÖNÜL ULUDAĞ

    Doktora

    İngilizce

    İngilizce

    2021

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. AYŞE ŞİMA UYAR

  2. Langmuir Blodgett assembly of peptide functionalized nanoparticles onto silicatebased surfaces and their characterization

    Peptit ile fonksiyonlandırılmış nanoparçacıkların Langmuir Blodgett yöntemi ile silika tabanlı yüzey üzerine kaplanması ve karakterizasyonu

    NUR MUSTAFAOĞLU

    Yüksek Lisans

    İngilizce

    İngilizce

    2012

    Biyolojiİstanbul Teknik Üniversitesi

    Nanobilim ve Nanomühendislik Ana Bilim Dalı

    PROF. DR. MUSTAFA ÜRGEN

  3. Ayrık olay sistemlerinin incelenmesi

    Discrete event systems

    OĞUZ ÇETİN ERZENE

    Yüksek Lisans

    Türkçe

    Türkçe

    1991

    Elektrik ve Elektronik Mühendisliğiİstanbul Teknik Üniversitesi

    PROF.DR. İ. CEM GÖKNAR

  4. Broker-based ad allocation in social networks

    Sosyal ağlarda acenta tabanlı reklam atama

    İZZEDDİN GÜR

    Yüksek Lisans

    İngilizce

    İngilizce

    2013

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİhsan Doğramacı Bilkent Üniversitesi

    Bilgisayar Mühendisliği Bölümü

    DOÇ. DR. HAKAN FERHATOSMANOĞLU

    YRD. DOÇ. DR. BUĞRA GEDİK