EXPLOITING EXPLAINABLE ARTIFICIAL INTELLIGENCE (XAI) FOR ONE-SHOT MEMBERSHIP INFERENCE ATTACKS
AÇIKLANABİLİR YAPAY ZEKÂNIN (XAI) TEK SORGULU ÜYELİK ÇIKARIM SALDIRILARI İÇİN KULLANILMASI
- Tez No: 1025259
- Danışmanlar: DR. ÖĞR. ÜYESİ SİNEM SAV
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Bilgi güvenliği, Bilgisayar güvenliği, Gizlilik, Makine öğrenmesi, Veri güvenliği, Yapay zeka, Information security, Computer security, Confidentiality, Machine learning, Data security, Artificial intelligence
- Yıl: 2026
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Bilgi Güvenliği Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu tez, makine öğrenmesi (ML) hizmetlerinde tahminlerle birlikte açıklamaların yayımlanmasının gizlilik üzerindeki etkilerini incelemektedir. Açıklanabilirlik, model davranışını daha şeffaf hâle getirmeyi amaçlasa da, sağladığı bilgi eğitim verisinde kullanılan örneklerin özelliklerini de açığa çıkarabilir. Bu çalışmada, tek bir hizmet sorgusundan üyelik kararı veren siyah kutu üyelik çıkarım saldırısı (MIA) çerçevesi XposedMIA sunulmaktadır. Çerçeve, sorgulanan örneğe ilişkin döndürülen açıklamayı hedef modelin karar sınırına yakınlığının bir göstergesi olarak yorumlamaktadır. Özellikle, LIME'ın yerel doğrusal vekil modelinin geometrik özellikleri bir sınır-uzaklığı göstergesi oluşturmak için kullanılmaktadır. Bu yaklaşım ayrıca tablosal karşı olgusal açıklamalara ve ilk kez görüntü sınıflandırıcılarına yönelik görsel karşı olgusal açıklamalara uygulanmaktadır. Çerçeve, güven skorlarına erişim veya gölge model oluşturulması gerektirmez. Tek hazırlık aşaması, yaklaşık 30 örnek içern etiketli bir kalibrasyon kümesi ile yürütülen tek seferlik kalibrasyondur. Kalibrasyondan sonra XposedMIA, her hedef örnek için yalnızca tahmin edilen etikete ve onunla ilişkili açıklamaya dayanır. Deneysel sonuçlar, saldırının bu tek-sorgulu ortamda 0.95'e kadar başarı oranına ulaşabildiğini ve açıklama arayüzlerinin üyelik bilgisi sızıntısı için ek bir kanal oluşturabileceğini göstermektedir.
Özet (Çeviri)
This thesis investigates the privacy implications of releasing explanations together with predictions in machine-learning (ML) services. Although explainability is intended to make model behavior more transparent, the information it provides can also disclose characteristics of the data used to train the model. We introduce XposedMIA, a black-box membership inference attack (MIA) framework that makes a membership decision from a single service query by interpreting the returned explanation as evidence of the queried instance's proximity to the target model's decision boundary. In particular, the geometric properties of LIME's local surrogate are used to construct a boundary-distance proxy. We further apply this perspective to tabular counterfactual explanations and, for the first time, to visual counterfactual explanations generated for image classifiers. The framework requires neither access to confidence scores nor shadow-model construction. Its only preparatory stage is a one-time calibration procedure, which can operate with a labeled calibration set containing approximately 30 instances. Once calibrated, XposedMIA relies exclusively on the predicted label and its associated explanation for each target sample. Experimental results show that the attack can attain success rates of up to 0.95 under this one-query setting, demonstrating that explanation interfaces can create an additional avenue for membership leakage.
Benzer Tezler
- Açıklanabilir ve yorumlanabilir yüz duygu tanıma
Explainable and interpretable facial emotion recognition
ELİF NASIR TOKMAK
Yüksek Lisans
Türkçe
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Kültür ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. FATMA PATLAR AKBULUT
- The role of explainable artificial intelligence in understanding machine learning predictions of dyslexia
Dı̇sleksı̇nı̇n makı̇ne öğrenme tahmı̇nlerı̇nı̇ anlamada açıklanabı̇lı̇r yapay zekanın rolü
ŞULE AKÇA
Yüksek Lisans
İngilizce
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBahçeşehir ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ TAMER UÇAR
- Incremental heuristic meta-learning using reinforcement learning
Pekiştirmeli öğrenme kullanarak artımsal sezgisel üst-öğrenme
ONUR KARADELİ
Doktora
İngilizce
2026
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. ŞULE ÖĞÜDÜCÜ
- Yeni bir açıklanabilir yapay zeka modeli geliştirilmesi
Developing a new explainable artificial intelligence model
AHMET HAYDAR ÖRNEK
Doktora
Türkçe
2023
Elektrik ve Elektronik MühendisliğiKonya Teknik ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. MURAT CEYLAN
- Explaining artificial neural networks with decision tree ensembles
Yapay sinir ağlarinin karar ağaci topluluklari ile açiklanmasi
SAYİT KILIÇ
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolHacettepe ÜniversitesiBilgisayar Bilimleri ve Mühendisliği Ana Bilim Dalı
DOÇ. DR. BURKAY GENÇ