Adversarial robustness for deep metric learning
Derin metrik öğrenmesi için hasmane dayanıklılık
- Tez No: 877531
- Danışmanlar: DR. ÖĞR. ÜYESİ İNCİ MELİHA BAYTAŞ
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2024
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 73
Özet
Derin metrik öğrenme, çeşitli kümeleme, tanıma ve erişim görevlerinde yaygın olarak kullanılmaktadır. Derin metrik öğrenmenin amacı, benzer örnekler arasındaki mesafeyi en aza indirgerken farklı örnekler arasındaki mesafeyi en üst düzeye çıkarabilmek için girdileri gizli bir uzaya eşleyen doğrusal olmayan bir projeksiyon öğrenmektir. Görüntüler için derin metrik öğrenmede kullanılan evrişimli sinir ağlarının, girdi görüntü-lerine algılanamayan bozulmalar ekleyerek modelin davranışını değiştiren hasmane saldırılara karşı savunmasız olduğu bilinmektedir. Her iterasyonda hasmane örneklerin üretildiği hasmane eğitim, derin metrik öğrenme modellerini hasmane saldırılara karşı savunmada öne çıkan tekniklerdendir. Hasmane eğitim popülaritesine rağmen, hesaplama karmaşıklığını artırma ve dayanıklılık ve genelleştirme arasında denge kurma gerekliliği gibi birkaç dezavantajı barındırmaktadır. Bu nedenle, model eğitimini zorlaştırmayan çeşitli mimarilere uygulanabilen hasmane savunma teknikleri arayışı devam etmektedir. Bu tez, eğitim sırasında hasmane örnek üretimi olmadan derin metrik öğrenme için bir hasmane dayanıklılık methodu önermektedir. Önerilen yaklaşım ile hasmane örnekler bir kez önceden eğitilmiş bir ağ kullanarak üretilir ve daha dayanıklı bir öğrenme için bu örnekler kullanılır. Böylece, derin metrik öğrenme modelinin eğitim süresi, hasmane saldırı üretimiyle artmaz. Ek olarak, önerilen dayanıklı eğitim, metrik öğrenme performansı ile doğal ve hasmane örnekler arasındaki farkı derinleştiren belirli hasmane bozulmalara aşırı uyumu önlemek için gizli uzayda küçük bir mimariyle yapılır. Önerilen yaklaşım, metrik öğrenmede en önemli referans veri kümeleriyle değerlendirilmiştir. Elde edilen sonuçlar, önerilen dayanıklı metrik öğrenme methodunun hasmane erişim ve kümelemeyi doğal performanslarda önemli bir düşüşe neden olmadan geliştirdiğini göstermiştir.
Özet (Çeviri)
Deep metric learning has been virtually used in various clustering, recognition, and retrieval frameworks. The goal of deep metric learning is to learn a non-linear projection that maps input samples into a latent space where the distance between similar and dissimilar samples is minimized and maximized, respectively. Convolutional neural networks used in deep metric learning for images are known to be vulnerable to adversarial attacks that alter the model's behavior by adding imperceptible perturbation to input images. Adversarial training, where adversarial samples are generated at each iteration, is one of the prominent techniques to defend deep metric learning models against adversarial attacks. Despite its popularity, adversarial training poses several drawbacks, such as increasing computational complexity and trade-off between robustness and generalization. Therefore, the quest for adversarial defense techniques that apply to various architectures without burdening the model training continues. This thesis proposes an adversarial defense framework for deep metric learning without adversarial sample generation during training. The proposed framework generates adversarial samples using a pre-trained network once and employs them to learn a more robust mapping. Thus, the training time of the deep metric learning model is not increased with adversarial attack generation. In addition, the proposed robust training is done with a lightweight architecture in the latent space to prevent overfitting to specific adversarial perturbations that deepen the gap between the metric learning performance with natural and adversarial samples. The proposed approach is evaluated with the most prominent benchmark datasets in metric learning, and the results indicated that the proposed robust metric learning framework enhances the adversarial retrieval and clustering without causing a significant decline in natural performances.
Benzer Tezler
- Improving robustness of deep learning systems with fast and customizable adversarial data generation
Hızlı ve özelleştirilebilir hasım veri üretimi ile derin öğrenme sistemlerinin sağlamlığını iyileştirme
MEHMET MELİH ARICI
Yüksek Lisans
İngilizce
2021
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. MEHMET ALPER ŞEN
- Image reconstruction with deep learning and applications in MR images
Derin öğrenme ile görüntü geriçatımı ve MR görüntülerinde uygulamaları
AMIR AGHABIGLOU
Doktora
İngilizce
2022
Mekatronik Mühendisliğiİstanbul Teknik ÜniversitesiMekatronik Mühendisliği Ana Bilim Dalı
PROF. DR. ENDER METE EKŞİOĞLU
- Adversarial robustness against perceptual and unpredictable attacks in deep neural networks in images
Görüntülerdeki derin sinir ağlarında algılanabilir ve öngörülmeyen saldırılara karşı adversarıal sağlamlık
MAHMOOD FALAH KADHIM AL-SAEDI
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolAltınbaş ÜniversitesiElektrik ve Bilgisayar Mühendisliği Ana Bilim Dalı
YRD. DOÇ. DR. AYÇA KURNAZ TÜRKBEN
- Adversarial robustness and generalization
Hasmane dayanıklılık ve genelleşme
DUYGU SERBES
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ İNCİ MELİHA BAYTAŞ
- Robustness and resilience of deep neural networks
Derin öğrenme ağlarının sağlamlığı ve dayanıklılığı
ABDULLAH MURAT BULDU
Yüksek Lisans
İngilizce
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. MEHMET ALPER ŞEN