Inference attacks and defenses in continuous location sharing with local differential privacy
Lokal diferansiyel mahremiyetli sürekli konum paylaşımında çıkarım saldırıları ve savunmalar
- Tez No: 974605
- Danışmanlar: DR. ÖĞR. ÜYESİ MEHMET EMRE GÜRSOY
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2025
- Dil: İngilizce
- Üniversite: Koç Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Bilimleri ve Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Lokal diferansiyel mahremiyet (LDP), son zamanlarda yaygın olarak kullanılan bir mahremiyet standardı haline gelmiştir. LDP'nin artan popülerliği ile birlikte, güncel çalışmalar LDP'yi konum verilerinin toplanması ve konum tabanlı hizmetlerin (LBS) mahremiyet korumalı kullanımı üzerinde uygulamaya başlamıştır. Ancak, konum verisi paylaşımı ve LBS kullanımının birçok pratik uygulamasında, kullanıcının konumunu veri toplayıcı (örneğin LBS sağlayıcısı) ile sürekli olarak paylaşması gerekmektedir. Her bir konumun mahremiyeti LDP ile korunuyor olsa da, kullanıcının ardışık konumları arasındaki korelasyonlar, kullanıcının gerçek konumlarını tahmin etmek için kullanılabilir. Bu fikirden yola çıkarak, bu tezde LDP altında sürekli konum paylaşımına karşı yeni çıkarım saldırıları öneriyoruz. Önerdiğimiz saldırılar iki kategoriye ayrılmıştır: sabit kullanıcılar için Bayesçi saldırgan formülasyonuna dayalı istatistiksel saldırılar ve mobil kullanıcılar için Gizli Markov Modeli (HMM) tabanlı saldırılar. Ayrıca, HMM tabanlı saldırılarımız için iki ilerletme öneriyoruz (bilgilendirilmiş ve zincir saldırılar); bu ilerletmeler saldırganın topluluk istatistiklerini saldırıya dahil etmesini veya HMM inşasını birden fazla kez tekrarlamasını sağlayarak saldırı etkinliğini arttırmaktadır. Saldırılarımızı dört popüler LDP protokolüne (GRR, RAPPOR, OUE, OLH), üç veri kümesine ve farklı mahremiyet seviyelerine uyarlıyor ve uyguluyoruz. Deney sonuçları, saldırılarımızın oldukça etkili olduğunu ve sürekli konum paylaşımında LDP kullanımının getirdiği mahremiyet risklerini ortaya koymaktadır. Ayrıca, sonuçlar saldırılarımızın tasarlandıkları kullanıcı kategorileri için daha uygun olduğunu göstermektedir; yani, sabit kullanıcılar için istatistiksel saldırılar HMM tabanlı saldırılara göre daha yüksek etkinlik sağlarken, mobil kullanıcılar için HMM tabanlı saldırılar daha yüksek etkinlik sağlamaktadır. HMM tabanlı saldırılarımız bitvektör-bazlı LDP protokolleri (örneğin RAPPOR ve OUE) üzerinde etkili olsa bile, yüksek bellek kullanımı ve uzun yürütme süresi gibi verimlilik sorunları yaşadıklarını gözlemledik. Bu sorunlar, özellikle kafes boyutları büyük olduğunda veya saldırgan hassas konum çıkarımı yapmayı hedeflediğinde saldırılarımızın ölçeklenebilirliğini kısıtlamaktadır. Bu nedenle, saldırı HMM'lerinden düşük gerçekleşme olasılığına sahip durumları çıkartarak saldırılarımızın zaman ve bellek verimliliğini arttıracak buluşsal yöntemler öneriyoruz. Deney sonuçları ile gösteriyoruz ki, yöntemlerimiz sayesinde saldırılar orjinal versiyonlarına kıyasla benzer etkinlik seviyelerini koruyabilirken, bellek ve zaman maliyetleri on kattan fazla azalabilmektedir. Son olarak, saldırılarımıza karşı üç savunma stratejisi öneriyoruz: Memoization, Replay ve Replication. Memoization yönteminde, her kullanıcı orjinal değerinin bozulmuş bir versiyonunu saklar ve bu değer, veri toplayıcıya raporlanmadan önce ikinci kez bozulur. Replay yönteminde, her kullanıcı önceki konumlarını ve bozulmuş karşılıklarını bir önbellekte saklar. Herhangi bir konum tekrarlandığında, kullanıcı yeni bir bozulma işlemi yapmak yerine eski bozulmuş versiyonu önbellekten çekerek gönderir. Replication yönteminde ise, kullanıcının güncel konumu bir önceki konumuna benzer ise, kullanıcı bir önceki raporladığı değeri tekrarlar. Bu üç savunmayı dört LDP protokolü, üç veri kümesi, farklı mahremiyet seviyeleri ve sabit ve mobil kullanıcıları içeren deney düzeneğimizde değerlendiriyoruz. Deney sonuçları, savunmalarımızın saldırı etkinliğini azaltmada başarılı olduğunu göstermektedir. Ayrıca, savunmaların etkinlik, verimlilik ve yararlılık yönlerini farklı koşullar altında eleştirel bir şekilde analiz ediyor ve hangi durumda hangi savunmanın tercih edilmesi gerektiğine dair öneriler sunuyoruz.
Özet (Çeviri)
Local differential privacy (LDP) has recently emerged as a commonly used privacy standard. With the growing popularity of LDP, recent works started applying LDP to location data collection and privacy-preserving usage of location-based services (LBS). However, in many practical applications of location data sharing and LBS usage, the user must continuously share his/her location with the data collector (e.g., LBS provider). Although the privacy of each individual location is protected with LDP, correlations between the user's consecutive locations can be exploited to infer the user's true locations. Following this idea, in this thesis we propose novel inference attacks against continuous location sharing under LDP. We develop attacks in two categories: statistical attacks based on Bayesian adversary formulation for stationary users and Hidden Markov Model (HMM) based attacks for mobile users. We also propose two extensions for our HMM-based attacks (informed and chain attacks), which enable the attacker to incorporate aggregate population statistics or use multiple iterations of HMM construction to improve attack effectiveness. We adapt and apply our attacks to four popular LDP protocols (GRR, RAPPOR, OUE, OLH), three datasets, and varying privacy levels. Experiment results show that our attacks are highly effective, which highlights the privacy risks of using LDP in continuous location sharing. Furthermore, results show that the attacks are better suited for the types of users they were designed for, i.e., statistical attacks achieve higher effectiveness than HMM-based attacks in case of stationary users, whereas HMM-based attacks achieve higher effectiveness in case of mobile users. Although our HMM-based attacks are effective on bitvector-based LDP protocols (such as RAPPOR and OUE), we observe that they suffer from efficiency problems, i.e., high memory usage and execution time. These hinder the scalability of our attacks, especially when grid sizes are large or when the attacker aims to achieve precise location inference. We therefore propose heuristic methods to improve the time and memory-efficiency of our attacks by removing states with low occurrence probability from the attack HMMs. We experimentally show that our improvements can reduce the memory and time costs of the attacks by more than an order of magnitude, while maintaining similar effectiveness compared to their original versions. Finally, we propose three defense strategies against our attacks: Memoization, Replay, and Replication. In memoization, each user stores a perturbed version of their original value, which is perturbed for a second time before being reported to the data collector. In replay, each user maintains a cache of previous locations and their perturbed counterparts. When a certain location is repeated, the user replays the old perturbed version rather than performing a fresh perturbation. In replication, each user replicates their previously reported value if their current location is similar to their previous location. We evaluate the three defenses using the same experiment setup containing four LDP protocols, three datasets, varying privacy levels, and mobile and stationary users. Results show that our defenses are successful in reducing attack effectiveness. We critically analyze the success, efficiency, and utility aspects of the three defenses under varying conditions, and provide recommendations regarding when to use which defense.
Benzer Tezler
- Makine öğrenmesi ile şirket çalışanlarının oluşturduğu siber risk matrisi ve aksiyonların belirlenmesi
Determining the cyber risk matrix and actions created by company employees using machine learning
ESMA SIĞIRTMAÇ
Yüksek Lisans
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ MUSA BALTA
- APT kaynaklı ataklara karşı dayanıklı etmen tabanlı ve ontolojik veri sızıntısı önleme sistemi
Agent based and ontological data leakage prevention system against advanced persistent threats
EMRAH KAYA
Doktora
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. İBRAHİM ÖZÇELİK
- Türkiye'nin NATO'ya girişi ve sonrasının Türk iç ve dış politikasına yansımaları
Turkey's NATO membership and subsequentreflections on the Turkish domestic and foreign policy
ARİF ZENGİN
Yüksek Lisans
Türkçe
2017
Uluslararası İlişkilerCelal Bayar ÜniversitesiTarih Ana Bilim Dalı
DOÇ. DR. ŞAYAN ULUSAN
- A reinforcement learning-based approach for dynamic privacy protection in genomic data sharing beacons
Genomik veri paylaşım protokolü için dinamik gizlilik korumasına yönelik pekiştirmeli öğrenme tabanlı bir yaklaşım
MASOUD POORGHAFFAR AGHDAM
Yüksek Lisans
İngilizce
2026
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİhsan Doğramacı Bilkent ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
Assoc. Prof. Dr. ABDULLAH ERCÜMENT ÇİÇEK
- Deepfakes in cybersecurity: A holistic and foundational ontology
Siber güvenlikte yapay montaj video: Bütünsel ve temel bir ontoloji
FAIZA KHALID
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKarabük ÜniversitesiBilgisayar Bilimleri ve Mühendisliği Ana Bilim Dalı
DOÇ. DR. OĞUZHAN MENEMENCİOĞLU