Adversarial robustness against perceptual and unpredictable attacks in deep neural networks in images
Görüntülerdeki derin sinir ağlarında algılanabilir ve öngörülmeyen saldırılara karşı adversarıal sağlamlık
- Tez No: 828468
- Danışmanlar: YRD. DOÇ. DR. AYÇA KURNAZ TÜRKBEN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2023
- Dil: İngilizce
- Üniversite: Altınbaş Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Elektrik ve Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Elektrik ve Bilgisayar Mühendisliği Bilim Dalı
- Sayfa Sayısı: 69
Özet
Derin sinir ağlarının, eğitim verilerindeki düşmanca gürültüler de dahil olmak üzere, düşmanca saldırılara karşı duyarlılığı göz önüne alındığında, algılanan ve öngörülemeyen düşmanca sağlamlığı (örneğin, standart düşmanca eğitim) iyileştirebilir. Öte yandan, Eğitim verilerine eklenen uygunsuz gürültüler, doğruluk-sağlamlık değiş tokuşu olarak bilinen model performansını düşürebilir. Genel görüntü sınıflandırması yeterli ilgiyi görmüş olsa da, görüntü bölümleme, yer işareti algılama ve nesne algılama gibi hassas alandaki görüntü analizi görevleri çok az ilgi görmüştür. Bu çalışmada, geleneksel yöntemlerin algısal saldırılara karşı ciddi bir rakip sağlamlık sorunu olduğunu ve derin sinir ağlarında öngörülemez olduğunu, pratik kullanımlarını sınırladığını, yani eğitilmesi için tüm eğitim örnekleri için sabit ve tekdüze bir gürültü seviyesi oluşturduğunu gösteriyoruz. güçlü bir derin sinir ağı. Yüksek gürültü seviyesi, model performansını önemli ölçüde düşürebilir. Bu sorunu ele almak için, bu çalışma, görüntülerdeki algısal ve öngörülemeyen saldırılara karşı rakip sağlamlık için bir evrişimli sinir ağı ile bağlantılı olarak uyarlanabilir bir uç rakip eğitim yöntemi geliştirdi ve güçlü bir derin sinir ağını eğitmek için örnek uyarlanabilir rakip gürültülerle sonuçlandı. Önerilen araştırma tekniği, mevcut sınıflandırmaya dayalı çekişmeli eğitim yöntemlerinin aksine, kayıplı bir marj stratejisi kullanır, böylece kayıp fonksiyonları iyi tanımlanmışsa, çeşitli uygulamalar için kullanılabilir. Bu çalışma, önerilen stratejiyi, halka açık çeşitli veri kümelerini kullanarak karmaşık derin sinir ağlarına başarıyla uyguladı. Deneysel bulgular, önerilen yöntemin, görüntülerdeki derin sinir ağlarında algısal ve beklenmedik saldırılara karşı rakip sağlamlık alanında oldukça etkili olduğunu göstermektedir. Buna ek olarak, temiz veriler üzerinde tahmin doğruluğunda minimum bozulmadan muzdariptir ve rakip yöntemlerle kabaca aynı miktarda eğitim süresine mal olur.
Özet (Çeviri)
Given deep neural networks' susceptibility to adversarial attacks, including adversarial noises in the training data could improve perceived and unpredictable adversarial robustness (e.g., standard adversarial training). Inappropriate noises added to Training data, on the other hand, can degrade model performance, which is known as the accuracy-robustness trade-off. While overall image classification has received adequate attention, image analysis tasks in the sensitive domain, such as image segmentation, landmark detection, and object detection, have received little attention. In this study, we show that traditional methods have a serious problem of adversarial robustness against perceptual attacks, and are unpredictable in deep neural networks, limiting their practical use, that is, it creates a constant and uniform noise level for all training samples to train a robust deep neural network. A high noise level can significantly degrade model performance. To address this issue, this study developed an adaptive edge adversarial training method in conjunction with a convolutional neural network for adversarial robustness against perceptual and unpredictable attacks in images, resulting in exemplary adaptive adversarial noises for training a strong deep neural network. The suggested research technique, in contrast to existing classification-based adversarial training methods, employs a lossy margin strategy so that, provided the loss functions are well defined, it can be used for a variety of applications. This study successfully implemented their suggested strategy to sophisticated deep neural networks using various publically available datasets. The experimental findings demonstrate that the suggested method is highly effective in the area of adversarial robustness against perceptual and unexpected attacks in deep neural networks in images. In addition, it suffers from minimal degradation in prediction accuracy on clean data and costs roughly the same amount of training time as the competing methods.
Benzer Tezler
- Improving robustness of deep learning systems with fast and customizable adversarial data generation
Hızlı ve özelleştirilebilir hasım veri üretimi ile derin öğrenme sistemlerinin sağlamlığını iyileştirme
MEHMET MELİH ARICI
Yüksek Lisans
İngilizce
2021
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. MEHMET ALPER ŞEN
- Model robustness in data-scarce regimes and the effect of frequency perturbations
Veri azlığında model gürbüzlüğü ve frekans karıştırmanın etkileri
MEHMET KERİM YÜCEL
Doktora
İngilizce
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolHacettepe ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. PINAR DUYGULU ŞAHİN
DR. ÖĞR. ÜYESİ RAMAZAN GÖKBERK CİNBİŞ
- An attention based deep neural network architecture for identification of phishing URLS through character level n-gram embeddings
Kimlik avcısı URL tespitinde karakter n-gram düzeyinde özyerleşiklerden yararlanan dikkate dayalı bir derin sinir ağı mimarisi
FIRAT COŞKUN DALGIÇ
Yüksek Lisans
İngilizce
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolHacettepe ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. MURAT AYDOS
DOÇ. DR. AHMET SELMAN BOZKIR
- Detection of DDOS attack in IoT networks using deep learning technologies
Derin öğrenme teknolojileri kullanılarak IoT ağlarında DDOS saldırılarının tespiti
SAJA EMAD JUMAAH JUMAAH
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolAltınbaş ÜniversitesiElektrik ve Bilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. SEFER KURNAZ
- Adversarial robustness and generalization
Hasmane dayanıklılık ve genelleşme
DUYGU SERBES
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ İNCİ MELİHA BAYTAŞ