The influence of combinatorial designs used in deep neural networks to prevent overfitting
Derin sinir ağlarında aşırı öğrenmeyi engellemek için kullanılan kombinatöryel tasarımların etkisi
- Tez No: 725346
- Danışmanlar: PROF. DR. ABDURRAHMAN MUHAMMED ULUDAĞ
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Matematik, Computer Engineering and Computer Science and Control, Mathematics
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2021
- Dil: İngilizce
- Üniversite: Galatasaray Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Matematik Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 71
Özet
Bir matematik konusu olarak kombinatoryal tasarımlar, kombinatorik, grafik teorisi, sonlu geometri, kodlama teorisi, kriptografi ve sayı teorisi gibi alanlarla derin bağlantılara sahiptir ve farklı alanlardan pek çok araştırmanın ilgisini çekmiştir. Bilinen ilk kombinatoryal tasarım örneği Hindistan'da, sihirli bir kare kullanarak 16 farklı maddeden seçilen 4 maddeyi kullanarak parfüm yapmak amacıyla MS 587 civarında yazılan, Varahamihira'nın Brhat Samhita kitabında bulunur. Kombinatoryal tasarımlar, yaygın olarak bilinen Kirkman'ın okul kızı probleminde de kullanılmaktadır. Yaygın kabul gören görüşe göre, modern blok tasarım çalışmaları, 1936'da istatistikçi F. Yates'in yazdığı bir makalenin yayınlanmasıyla başlamıştır. Tezimize kombinatoryal tasarımları anlatarak giriş yapacağız. Sonrasında ise çözmek istediğimiz problemin türünden, tam kaplama probleminden, bahsedeceğiz. Bu problem Donald Knuth'un X Algoritmasını kullanarak çözülebiliyor. Dolayısıyla, daha sonrasında aşırı öğrenmeyi sinir ağlarında önlemek için kullanacağımız dengeli tamamlanmamış blok tasarımları tam kaplama problemini çözerek üretecek olan algoritmadan ve aşamalarından bahsedeceğiz. Bu tezde, rastlantısallık yerine bilinen bir örüntüyü (BIBD'leri) kullanarak makine öğreniminde aşırı uyumu başarıyla önlemenin mümkün olduğunu gösteriyoruz. Son olarak, sonuçlarımızı paylaşacağız ve bunları yaygın olarak bilinen ve kullanılan rastgele bırakma yöntemiyle karşılaştıracağız. Ayrıca sonuçlarımızı, hiçbir düzenleme uygulanmayan modellerle de karşılaştıracağız.
Özet (Çeviri)
Combinatorial designs, as a mathematical subject, has deep connections with the fields such as combinatorics, graph theory, finite geometry, coding theory, cryptography and number theory and has attracted many researches from different fields. The combinatorial design found in the book Brhat Samhita, written by Varahamihira around 587 BC, was used to produce perfume by selecting 4 items from 16 different items with the help of a magic square. This is first known example of combinatorial designs. Combinatorial designs are used in widely known Kirkman's school girl problem. In the widely accepted view, modern study of block designs began in 1936 with the publication of an article by the statistician F. Yates. In this thesis, firstly, we provide an introduction about combinatorial designs and their properties. We will also introduce machine learning fundamentals that is required for our problem. Then, the problem that is being solved to generate BIBDs, exact covering problem will be mentioned. This NP-complete problem can be solved using Donald Knuth's Algorithm X. At this step, we will be explaining Algorithm X's algorithm and its implementation. Generated BIBDs will be used in neural networks, which have been built manually to prevent overfitting in machine learning. In this thesis, we show that it is possible to prevent overfitting in machine learning succesfully by using a known pattern (BIBDs) in dropout instead of randomness. Finally, we will share our results and compare them with widely known and used random dropout method. We will also compare our results with no-regularization applied models.
Benzer Tezler
- 19. yüzyıl İstanbul dizi konutlarının morfolojik andizine dayalı bilgi tabanlı tasarım modeli
Başlık çevirisi yok
ÇİLER KIRŞAN
- Hybridization of probabilistic graphical models and metaheuristics for handling dynamism and uncertainty
Değişimin ve belirsizliğin ele alınması için olasılıksal çizgesel biçelerin ve sezgi-üstlerinin melezleştirilmesi
GÖNÜL ULUDAĞ
Doktora
İngilizce
2021
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. AYŞE ŞİMA UYAR
- Langmuir Blodgett assembly of peptide functionalized nanoparticles onto silicatebased surfaces and their characterization
Peptit ile fonksiyonlandırılmış nanoparçacıkların Langmuir Blodgett yöntemi ile silika tabanlı yüzey üzerine kaplanması ve karakterizasyonu
NUR MUSTAFAOĞLU
Yüksek Lisans
İngilizce
2012
Biyolojiİstanbul Teknik ÜniversitesiNanobilim ve Nanomühendislik Ana Bilim Dalı
PROF. DR. MUSTAFA ÜRGEN
- Ayrık olay sistemlerinin incelenmesi
Discrete event systems
OĞUZ ÇETİN ERZENE
Yüksek Lisans
Türkçe
1991
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiPROF.DR. İ. CEM GÖKNAR
- Broker-based ad allocation in social networks
Sosyal ağlarda acenta tabanlı reklam atama
İZZEDDİN GÜR
Yüksek Lisans
İngilizce
2013
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİhsan Doğramacı Bilkent ÜniversitesiBilgisayar Mühendisliği Bölümü
DOÇ. DR. HAKAN FERHATOSMANOĞLU
YRD. DOÇ. DR. BUĞRA GEDİK