Improving robustness of deep learning systems with fast and customizable adversarial data generation
Hızlı ve özelleştirilebilir hasım veri üretimi ile derin öğrenme sistemlerinin sağlamlığını iyileştirme
- Tez No: 667964
- Danışmanlar: PROF. DR. MEHMET ALPER ŞEN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Bilim ve Teknoloji, Computer Engineering and Computer Science and Control, Science and Technology
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2021
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 61
Özet
Derin Öğrenme (DÖ), son yıllarda birçok karmaşık problemin çözülebilme başarısının arkasındaki güçtür. DÖ sistemlerinin güvenlik açısından kritik uygulamalarda kullanılması ile, bu sistemleri düşman saldırılarına karşı sağlam kılmak önem kazanmıştır. Hasım veri üretimi, hasım eğitimin yardımıyla DÖ sistemlerini bu tür saldırılara karşı sağlamlaştırmak için etkili bir araçtır. Son çalışmalar, gradyan temelli hasım ataklara odaklanmaktadır. Başarılı bir şekilde hasım örnekleri oluşturabilmelerine rağmen, bu atakların yüksek hesaplama maliyetine sahip olmaları ve girdi oluşturma sürecinde yeterince esnek olamamaları, verimli ve esnek bir hasım atak metodolojisine olan ihtiyacı ortaya koymaktadır. Bu tezde, bu açığı kapatmaya yönelik hızlı ve özelleştirilebilir bir hasım veri üretme çerçevesi sunuyoruz. Özel kayıp fonksiyonlarına sahip evrişimli otomatik kodlayıcılar, PGD adı verilen son teknoloji saldırı yöntemine kıyasla çok daha kısa sürede, kullanıcı tarafından yapılandırılabilir veri üretimine olanak tanıyor. Geleneksel yazılım mühendisliğinden gelen şüphelilik metriğini ve bir özellik önemi metriğini, özel kayıp fonksiyonlarımıza entegre ediyoruz. Deneylerimiz gösteriyor ki, tekniğimiz hasım örnekleri PGD'den daha hızlı üretebilmektedir. Ayrıca, üretilen hasım örnekleri hasım eğitimde kullanmak, hasım saldırılara karşı kıyaslanabilir bir sağlamlık sağlamaktadır.
Özet (Çeviri)
Deep Learning (DL) is the force behind the success of solving many complicated tasks in recent years. With the use of DL systems in safety-critical applications, it has become of great importance to make these systems robust against adversarial attacks. Adversarial data generation is an effective tool to make DL systems robust against such attacks, with the help of adversarial training. Recent studies focus gradient-based adversarial attacks. Although they can successfully generate adversarial samples, high computation cost and lack of flexibility over input generation arise the need for an efficient and flexible adversarial attack methodology. In this thesis, we present a fast and customizable adversarial data generation framework towards bridging this gap. Convolutional autoencoders with custom loss functions, enable user-configurable data generation within a much shorter time compared to the state-of-the-art attack method called PGD. We integrate suspiciousness metric from traditional software engineering and a feature importance metric into our custom loss functions. Experiments show that our technique produces adversarial samples faster than PGD and using these samples in adversarial training, allows comparable robustness against adversarial attacks.
Benzer Tezler
- Deep learning aided data detectionfor future wireless communication systems
Gelecek nesil telsiz haberleşme sistemleri içinderin öğrenme yardımıyla data tespiti
MERVE TURHAN
Yüksek Lisans
İngilizce
2019
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. HAKAN ALİ ÇIRPAN
- Improving time series forecasts through predictive error compensation and deep feature fusion
Tahmı̇nsel hata telafı̇sı̇ ve derı̇n öznitelik füzyonu yoluyla zaman serı̇sı̇ tahmı̇nlerı̇nı̇n gelı̇ştı̇rı̇lmesı̇
MUHAMMED ENES BAŞ
Yüksek Lisans
İngilizce
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. BURAK BERK ÜSTÜNDAĞ
- Optimized visual odometry and satellite image matching-based localization for UAVS in GPS-denied environments
GPS olmayan ortamlarda İHA'lar için optimizasyonlu görsel odometri ve uydu görüntüsü eşleştirme tabanlı konumandırma
ÖMER SEFA ÖZTÜRK
Yüksek Lisans
İngilizce
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiSavunma Teknolojileri Ana Bilim Dalı
DOÇ. DR. ALPTEKİN YILDIZ
- Yanıltıcı gözlem saldırılarına karşı çok etmenli rehberli derin pekiştirmeli öğrenme yaklaşımı
Multi agent guided deep reinforcement learning approach against state perturbed adversarial attack
ÇAĞRI ÇERÇİ
Doktora
Türkçe
2025
Mekatronik Mühendisliğiİstanbul Teknik ÜniversitesiMekatronik Mühendisliği Ana Bilim Dalı
PROF. DR. HAKAN TEMELTAŞ
- Derin öğrenme ve evrişimsel sinir ağları kullanılarak iş güvenliği için baret kullanımı tespiti
Safety helmet detection using deep learning and convolutional neural networks
RABİA NUR AKDERE
Yüksek Lisans
Türkçe
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSelçuk ÜniversitesiYönetim Bilişim Sistemleri Ana Bilim Dalı
DOÇ. DR. ALPER GEDİK