Understanding the risks of LLM-generated phishing material
LLM tarafından üretilen oltalama saldırılarının risklerinin anlaşılması
- Tez No: 981937
- Danışmanlar: DR. ÖĞR. ÜYESİ ORÇUN ÇETİN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Oltalama, Phishing
- Yıl: 2025
- Dil: İngilizce
- Üniversite: Sabancı Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu çalışma, Büyük Dil Modelleri (LLM'ler) tarafından üretilen oltalama (phishing) e-postalarının oluşturduğu yeni tehditleri araştırmıştır. Üç tamamlayıcı deney yürütülmüştür: 30 katılımcı ile yapılan şüphe odaklı bir göz izleme laboratuvar çalışması, burada katılımcılar AI tarafından üretilen oltalama e-postalarını, geleneksel oltalama e-postalarını ve meşru e-postalarını oltalama veya meşru olarak sınıflandırmıştır; 50 katılımcı ile yapılan davranış odaklı bir göz izleme çalışması, burada katılımcılar böyle bir e-postayı alsalardı nasıl tepki vereceklerini belirtmiş ve e-postaların meşru mu yoksa oltalama mı algılandığını çıkarmamıza olanak sağlamıştır; ve 300 katılımcı ile Birleşik Krallık merkezli geniş ölçekli bir çevrimiçi anket, ilk çalışmadaki aynı sınıflandırma görevini içermiş fakat göz izleme kullanılmamıştır. Tüm deneylerde, AI tarafından üretilen oltalama e-postalarının tespit edilmesi önemli ölçüde daha zor olmuştur. AI ile üretilen oltalama e-postalarının tespit oranı şüphe odaklı çalışmada %45, davranış odaklı çalışmada %26 ve çevrimiçi anket çalışmasında %27,3 iken, geleneksel oltalama e-postalarında bu oran %80–86 arasında olmuştur. Nitel analizler, katılımcıların geleneksel oltalama e-postalarını tanımak için tanıdık ipuçlarına dayandığını, oysa AI tarafından üretilen e-postaların daha özenli ve güvenilir göründüğünü, küçük dilbilgisel tutarsızlıkları fark etmek için dikkatli olunması gerektiğini göstermiştir. Bu bulgular, geleneksel sezgisel yöntemlerin ve mevcut eğitim müdahalelerinin AI destekli oltalama karşısında yetersiz olduğunu göstermekte ve kullanıcıları korumak için uyarlanabilir güvenlik stratejilerine ve yeni tespit mekanizmalarına acil ihtiyaç olduğunu göstermektedir.
Özet (Çeviri)
This study investigated the emerging threat posed by phishing emails generated by large language models (LLMs). We conducted three complementary experiments: a suspicion-oriented eye-tracking laboratory study with 30 participants, where they classified AI-generated phishing emails, traditional phishing emails, and legitimate emails as either phishing or legitimate, a behavior-oriented eye-tracking study with 50 participants, where they indicated how they would respond if they received such emails, allowing us to infer whether the emails were perceived as legitimate or phishing, and a large-scale UK-based online survey with 300 participants, using the same classification task as the first study but without eye-tracking. Across all settings, AI-generated phishing proved significantly more difficult to detect. Detection rates for AI-generated phishing dropped to 45% in the suspicion-oriented study, 26% in the behavior-oriented study, and 27.3% in the online survey, compared to 80–86% for traditional phishing. Qualitative analyses revealed that participants relied on familiar cues to identify traditional phishing, whereas AI-generated emails appeared more polished and trustworthy, requiring close attention to notice subtle linguistic inconsistencies, which might serve as a red flag for detecting a phishing attempt. These findings demonstrate that conventional heuristics and current training interventions are insufficient against AI-powered phishing. The results highlight the urgent need for adaptive security awareness strategies and novel detection mechanisms to protect users in the evolving phishing landscape.
Benzer Tezler
- Uluslararası fon piyasaları ve döviz kredileri mekanizması (analitik bir yaklaşım)
A Short history of the foreign exchange markets
ADNAN YİĞİT
Yüksek Lisans
Türkçe
1994
BankacılıkMarmara ÜniversitesiUluslararası Bankacılık ve Finans Ana Bilim Dalı
PROF. DR. İLHAN ULUDAĞ
- Evaluating performance of large language models in bluff-based card games: A comparative study
Blöf temelli kart oyunlarında büyük dil modeline ait performans değerlendirilmesi: Karşılaştırmalı bir çalışma
İREM ŞALK
Yüksek Lisans
İngilizce
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiOyun ve Etkileşim Teknolojileri Ana Bilim Dalı (disiplinlerarası)
PROF. DR. SANEM SARIEL UZER
- Using digital technologies to facilitate identification of political risks in international construction projects
Uluslararası inşaat projelerinde siyasi risklerin belirlenmesini kolaylaştırmak için dijital teknolojilerin kullanılması
BESTE ÖZYURT ERSÖZ
Doktora
İngilizce
2024
İnşaat MühendisliğiOrta Doğu Teknik Üniversitesiİnşaat Mühendisliği Ana Bilim Dalı
PROF. DR. MUSTAFA TALAT BİRGÖNÜL
PROF. DR. İREM DİKMEN TOKER
- The economic and institutional determinants of foreign direct investment for the SAARC countries
Saarc ülkeleri için doğrudan yabancı yatırımların iktisadi ve kurumsal belirleyicileri
MOHAMMAD MANSOOR LODIN
Doktora
İngilizce
2024
EkonomiKaradeniz Teknik Üniversitesiİktisat Ana Bilim Dalı
PROF. DR. AYÇA SARIALİOĞLU HAYALİ
- Sigortada dağıtım ve tutundurma metodları
Başlık çevirisi yok
BANU GÖNENÇ
Yüksek Lisans
Türkçe
1994
SigortacılıkMarmara ÜniversitesiSigortacılık Ana Bilim Dalı
DOÇ. DR. OSMAN GÜRBÜZ