Kolorektal kanser tanısı için güvenli çok dilli LLM tabanlı diyalog sistemi: Guardrails ve Monte Carlo risk puanlamasının entegrasyonu
A secure multilingual LLM-based dialogue system for colorectal cancer diagnosis: Integration of guardrails and Monte Carlo risk scoring
- Tez No: 955956
- Danışmanlar: DR. ÖĞR. ÜYESİ KEREM GENCER
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Kolorektal kanser, Büyük dil modelleri (LLM), Gömme tabanlı bellek, Koruma bariyerleri, Monte Carlo risk puanlaması, Sağlık AI Güvenliği, Colorectal cancer, Large language models (LLMs), Embedding-based memory, Guardrails, Monte carlo risk scoring, Healthcare AI Safety
- Yıl: 2024
- Dil: Türkçe
- Üniversite: Afyon Kocatepe Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: İnternet ve Bilişim Teknolojileri Yönetimi Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 79
Özet
Büyük dil modelleri (LLM'ler), özellikle sağlık alanında klinik destek, hasta eğitimi ve erken tarama rehberliği gibi kritik görevlerde giderek daha fazla kullanılmaktadır. Ancak bu sistemlerin, izinsiz kemoterapi dozu artırımı ya da intihar düşüncesini teşvik eden zararlı yanıtlar gibi güvenlik açıklarına sahip olabileceği, ciddi etik ve güvenlik risklerini de beraberinde getirmektedir. Bu nedenle, büyük dil modellerinin güvenliğini sağlayacak sağlam ve çok katmanlı bir çerçeve geliştirmek büyük önem taşımaktadır. Bu tezde, özellikle kolorektal kanser senaryolarında kullanılmak üzere, gömülü bellek tabanlı bir yapı ile entegre edilen, çok katmanlı koruma mekanizmalarına sahip bir güvenlik çerçevesi tasarlanmıştır. Sistem, anahtar kelime filtreleme, regex desen eşleştirme ve bulanık ifade algılama tekniklerini Monte Carlo tabanlı olasılıksal risk puanlama modülü ile birleştirmektedir. Açık kaynaklı üç model (OpenAssistant, Phi-3 Mini ve Mistral-7B) farklı koruma (tekli–çoklu) ve dil (tek dilli–çok dilli) yapılandırmaları altında test edilmiştir. Elde edilen sonuçlar, çok dilli ve çok katmanlı koruma yapılandırmalarının erken tehlike tespiti, düşük false pozitif oranı ve dengeli kümülatif risk profilleri açısından en etkili yaklaşımı sunduğunu ortaya koymuştur. Buna karşılık, tek katmanlı sistemlerin düzensiz ve kontrolsüz risk artışlarına yol açtığı gözlenmiştir. Monte Carlo mekanizması, yüksek riskli kullanıcı girişlerine karşı erken uyarılar üretmede başarılı olmuştur. Sonuç olarak, geliştirilen bu güvenlik çerçevesi, büyük dil modellerinin özellikle sağlık gibi yüksek hassasiyet gerektiren alanlarda güvenli ve sorumlu biçimde kullanılabilmesini sağlamak adına güçlü bir altyapı sunmaktadır. Tezin bulguları, LLM tabanlı sistemlerin gerçek dünyada güvenli dağıtımı için standartlaştırılmış çok katmanlı güvenlik protokollerinin gerekliliğini desteklemektedir.
Özet (Çeviri)
Large language models (LLMs) are increasingly utilized in critical healthcare applications such as clinical decision support, patient education, and early screening guidance. However, their deployment in sensitive domains raises serious safety and ethical concerns, especially when harmful outputs—such as unauthorized chemotherapy dose adjustments or the reinforcement of suicidal ideation—are generated. Thus, designing a robust and multi-layered safety framework for LLMs is of paramount importance.This thesis presents a comprehensive safety framework specifically designed for colorectal cancer scenarios, integrating patient records into an embedding-based memory architecture. The proposed system combines multi-layered protective mechanisms—such as keyword filtering, regular expression (regex) pattern matching, and fuzzy phrase detection—with a Monte Carlo-based probabilistic risk scoring module. Three open-source LLMs (OpenAssistant, Phi-3 Mini, and Mistral-7B) were systematically evaluated under varying configurations (single vs. multi-guard, single vs. multilingual).Results demonstrated that configurations involving both multi-guard mechanisms and multilingual support achieved the highest early threat detection, the lowest false positive rates, and the most stable cumulative risk trajectories. In contrast, single-guard setups exhibited irregular and uncontrolled risk spikes. The Mistral-7B model tended to produce more frequent but lower-intensity risks, while Phi-3 Mini and OpenAssistant generated fewer but sharper spikes. The Monte Carlo mechanism successfully captured early warning signals in both helpful and potentially harmful user inputs.In conclusion, the proposed framework—through its embedded memory system, multilingual dialogue support, and layered safety barriers—significantly enhances the security and utility of LLMs in the context of colorectal cancer. These findings strongly support the need for standardized safety infrastructures for AI-powered assistants, especially in high-stakes fields such as healthcare.
Benzer Tezler
- Kemoterapi alan kanser hastalarında stres yaratan durumlar ve stresle başetme stratejileri
Stress in cancer patients receiving chemotherapycaused situations and strategies for coating strategies
ZUHAL SERBEST
Yüksek Lisans
Türkçe
2022
HemşirelikKTO Karatay ÜniversitesiHemşirelik Ana Bilim Dalı
DR. ÖĞR. ÜYESİ SERAP SAYAR
- Kolon kanserinde COX-2 ekspresyonunun histopatolojik parametrelerle korelasyonu ve tedavideki prognostik önemi
The relation of COX-2 expression to immunohistochemical parameters in colon cancer and its prognostic significance
MUSTAFA YAVUZ DİZDAR
- Kolerektal kanserde Human Papilloma Virus araştırılması
Human Papilloma Virus (HPV) investigation in colorectal cancer
WASSIM ALMAHLI
Doktora
Türkçe
2021
MikrobiyolojiGaziantep ÜniversitesiTıbbi Mikrobiyoloji Ana Bilim Dalı
PROF. DR. FAHRİYE EKŞİ
- Kolorektal kanser karaciğer metastazlarında radyoembolizasyon tedavisinin etkinliğinin değerlendirilmesi
Evaluation of the efficacy of radioembolization in colorectal cancer liver metastases
DUYGU KARAHACIOĞLU
Tıpta Uzmanlık
Türkçe
2014
Radyoloji ve Nükleer TıpAnkara ÜniversitesiRadyoloji Ana Bilim Dalı
PROF. DR. UMMAN NUREDDİN SANLIDİLEK
- Hepatik kolorektal metastazların tedavisinde Radyofrekans Ablasyon tedavisi: Orta dönem takip sonuçları
Radiofrequency Ablation in the treatment of hepatic colorectal metastases: Mid-term results
AYLİN BİLLUR ŞENDUR
Tıpta Uzmanlık
Türkçe
2011
Radyoloji ve Nükleer TıpGazi ÜniversitesiRadyoloji Ana Bilim Dalı
PROF. DR. CEM YÜCEL