Improving robustness of deep learning systems with fast and customizable adversarial data generation
Hızlı ve özelleştirilebilir hasım veri üretimi ile derin öğrenme sistemlerinin sağlamlığını iyileştirme
- Tez No: 667964
- Danışmanlar: PROF. DR. MEHMET ALPER ŞEN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Bilim ve Teknoloji, Computer Engineering and Computer Science and Control, Science and Technology
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2021
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 61
Özet
Derin Öğrenme (DÖ), son yıllarda birçok karmaşık problemin çözülebilme başarısının arkasındaki güçtür. DÖ sistemlerinin güvenlik açısından kritik uygulamalarda kullanılması ile, bu sistemleri düşman saldırılarına karşı sağlam kılmak önem kazanmıştır. Hasım veri üretimi, hasım eğitimin yardımıyla DÖ sistemlerini bu tür saldırılara karşı sağlamlaştırmak için etkili bir araçtır. Son çalışmalar, gradyan temelli hasım ataklara odaklanmaktadır. Başarılı bir şekilde hasım örnekleri oluşturabilmelerine rağmen, bu atakların yüksek hesaplama maliyetine sahip olmaları ve girdi oluşturma sürecinde yeterince esnek olamamaları, verimli ve esnek bir hasım atak metodolojisine olan ihtiyacı ortaya koymaktadır. Bu tezde, bu açığı kapatmaya yönelik hızlı ve özelleştirilebilir bir hasım veri üretme çerçevesi sunuyoruz. Özel kayıp fonksiyonlarına sahip evrişimli otomatik kodlayıcılar, PGD adı verilen son teknoloji saldırı yöntemine kıyasla çok daha kısa sürede, kullanıcı tarafından yapılandırılabilir veri üretimine olanak tanıyor. Geleneksel yazılım mühendisliğinden gelen şüphelilik metriğini ve bir özellik önemi metriğini, özel kayıp fonksiyonlarımıza entegre ediyoruz. Deneylerimiz gösteriyor ki, tekniğimiz hasım örnekleri PGD'den daha hızlı üretebilmektedir. Ayrıca, üretilen hasım örnekleri hasım eğitimde kullanmak, hasım saldırılara karşı kıyaslanabilir bir sağlamlık sağlamaktadır.
Özet (Çeviri)
Deep Learning (DL) is the force behind the success of solving many complicated tasks in recent years. With the use of DL systems in safety-critical applications, it has become of great importance to make these systems robust against adversarial attacks. Adversarial data generation is an effective tool to make DL systems robust against such attacks, with the help of adversarial training. Recent studies focus gradient-based adversarial attacks. Although they can successfully generate adversarial samples, high computation cost and lack of flexibility over input generation arise the need for an efficient and flexible adversarial attack methodology. In this thesis, we present a fast and customizable adversarial data generation framework towards bridging this gap. Convolutional autoencoders with custom loss functions, enable user-configurable data generation within a much shorter time compared to the state-of-the-art attack method called PGD. We integrate suspiciousness metric from traditional software engineering and a feature importance metric into our custom loss functions. Experiments show that our technique produces adversarial samples faster than PGD and using these samples in adversarial training, allows comparable robustness against adversarial attacks.
Benzer Tezler
- Deep learning aided data detectionfor future wireless communication systems
Gelecek nesil telsiz haberleşme sistemleri içinderin öğrenme yardımıyla data tespiti
MERVE TURHAN
Yüksek Lisans
İngilizce
2019
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. HAKAN ALİ ÇIRPAN
- Derin öğrenme ve evrişimsel sinir ağları kullanılarak iş güvenliği için baret kullanımı tespiti
Safety helmet detection using deep learning and convolutional neural networks
RABİA NUR AKDERE
Yüksek Lisans
Türkçe
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSelçuk ÜniversitesiYönetim Bilişim Sistemleri Ana Bilim Dalı
DOÇ. DR. ALPER GEDİK
- Deep learning-based keypoints driven visual inertial odometry for GNSS-denied flight
Yapay sinir ağları tabanlı nokta çıkarıcılı görsel-ataletsel odometri ile GPS'siz ortamda uçuş
ARSLAN ARTYKOV
Yüksek Lisans
İngilizce
2023
Uçak Mühendisliğiİstanbul Teknik ÜniversitesiUçak ve Uzay Mühendisliği Ana Bilim Dalı
DOÇ. DR. EMRE KOYUNCU
- Makine öğrenme yöntemlerini kullanarak çok değişkenli zaman serisi analizi ve tahmin
Multivariate time series analysis and forecasting using machine learning methods
LUBNA ALANIS
Yüksek Lisans
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolMersin ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. HAMZA EROL
- Adversarial attacks against machine learning algorithms at training stage
Eğitim aşamasındaki ̇makina öğrenme algoritmalarına karşı gerçekleştirilen çekişmeli saldırılar
FAHRİ ANIL YERLİKAYA
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. ŞERİF BAHTİYAR