BERT ile insan DNA sınıflandırma tahmini
Prediction of human DNA classes with BERT
- Tez No: 1023617
- Danışmanlar: DOÇ. DR. EKMEL ÇETİN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Bilim ve Teknoloji, Tıbbi Biyoloji, Computer Engineering and Computer Science and Control, Science and Technology, Medical Biology
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2026
- Dil: Türkçe
- Üniversite: Kastamonu Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu tez kapsamında, insan DNA dizilerinin sınıflandırılması amacıyla Transformer tabanlı BERT modeli kullanılmış ve söz konusu yaklaşımın etkinliği incelenmiştir. DNA dizileri, nükleotitlerin karmaşık dizilimleri, uzun menzilli bağımlılıklar ve biyolojik motiflerden oluşan bir yapıya sahiptir. Bu nedenle veri yapısı oldukça karmaşıktır. Geleneksel makine öğrenmesi yöntemleri, bu karmaşıklığı modellemede yeterli performansı sağlayamamaktadır. Bu doğrultuda, doğal dil işleme alanında başarılı sonuçlar veren BERT modeli, DNA dizilerini bir“biyolojik dil”olarak ele alacak şekilde uyarlanmıştır. Çalışmada, 4380 DNA dizisinden oluşan ve yedi farklı sınıfa ayrılmış bir veri seti kullanılmıştır. DNA dizileri, 3-mer (üçlü nükleotit) temelli parçalara ayrılarak tokenizasyon işlemine tabi tutulmuştur. Tokenizasyon sürecinden geçirilen veriler, özel olarak geliştirilen bir PyTorch veri yükleyici aracılığıyla modele aktarılmıştır. Veri seti; eğitim için %80, doğrulama için %10 ve test için %10 olacak şekilde üç gruba ayrılmıştır. Eğitim sürecinde AdamW optimizasyon algoritması, çapraz entropi kaybı fonksiyonu, öğrenme oranı planlayıcısı ve gradyan kesme yöntemleri kullanılmıştır. Model performansı doğruluk, kesinlik, geri çağırma ve F1-skoru metrikleri ile değerlendirilmiştir. Elde edilen sonuçlar, BERT tabanlı modelin DNA dizilerindeki motifleri ve bağlamsal ilişkileri etkili biçimde öğrendiğini göstermektedir. Özellikle veri setinde daha az temsil edilen sınıflarda yanlış sınıflandırma oranlarının azaldığı gözlemlenmiştir. Ayrıca modelin dikkat mekanizmaları incelendiğinde, biyolojik açıdan anlamlı bölgelere odaklanabildiği belirlenmiştir. Sonuç olarak, BERT tabanlı yaklaşımın DNA sınıflandırma probleminde geleneksel yöntemlerin ötesinde bir performans sunduğu görülmüştür. Elde edilen bulgular, genomik analizlerde Transformer tabanlı modellerin etkili biçimde kullanılabileceğini göstermekte ve biyoinformatik alanında gerçekleştirilecek yeni araştırmalar için önemli bir temel oluşturmaktadır.
Özet (Çeviri)
This thesis investigates the effectiveness of a Transformer-based BERT model for the classification of human DNA sequences. DNA sequences consist of complex arrangements of nucleotides, long-range dependencies, and biologically meaningful motifs, making their structure highly intricate. Traditional machine learning approaches often fail to adequately capture this complexity. In this context, the BERT model—originally successful in natural language processing—has been adapted to treat DNA sequences as a form of“biological language.”The study utilizes a dataset comprising 4,380 DNA sequences categorized into seven distinct classes. The sequences were tokenized using a 3-mer (trinucleotide) segmentation approach. The tokenized data were then fed into the model באמצעות a custom-developed PyTorch data loader. The dataset was divided into three subsets: 80% for training, 10% for validation, and 10% for testing. During training, the AdamW optimization algorithm, cross-entropy loss function, learning rate scheduler, and gradient clipping techniques were employed. Model performance was evaluated using accuracy, precision, recall, and F1-score metrics. The results demonstrate that the BERT-based model effectively learns motifs and contextual relationships within DNA sequences. Notably, a reduction in misclassification rates was observed, particularly for underrepresented classes. Furthermore, analysis of the model's attention mechanisms revealed that it can focus on biologically meaningful regions. In conclusion, the BERT-based approach outperforms traditional methods in DNA classification tasks. The findings indicate that Transformer-based models can be effectively utilized in genomic analysis and provide a strong foundation for future research in the field of bioinformatics.
Benzer Tezler
- Variant pathogenicity prediction tool based on protein-protein interactions and the effects of variants on 3-dimensional protein structure:a model for monogenic autoinflammatory disorders
Protein protein etkileşimlerini ve varyantların 3 boyutlu protein yapısındaki etkilerini esas alan varyant patojenite tahmini
ABDULLAH ALPER BÜLBÜL
Yüksek Lisans
İngilizce
2021
Biyoistatistikİstanbul Teknik ÜniversitesiMoleküler Biyoloji-Genetik ve Biyoteknoloji Ana Bilim Dalı (disiplinlerarası)
PROF. DR. EDA TAHİR TURANLI
- BHV-1 ile enfekte hücre kültüründe asiklovir ve insan amniyon membran etkinliğinin ve viral DNA yükünün real-time PCR ile değerlendirilmesi
Evaluation of acyclovir and human amniotic membrane efficiency on BHV-1 infected cell culture and viral DNA load with real-time PCR
FERİDE AYLİN GÜN
Tıpta Uzmanlık
Türkçe
2010
Göz HastalıklarıGazi ÜniversitesiGöz Hastalıkları Ana Bilim Dalı
PROF. DR. FİKRET AKATA
- İnsan kolon kanseri hücrelerinde radyofrekans alan maruziyetinden kaynaklı oksidatif DNA hasarında mikroRNA'lar
MicroRNAs in oxidative DNA damage induced by radiofrequency field exposure in human colorectal cancer cells
SEDAT ERGİN
- Toxoplasma gondii ile enfekte insan trophoblastik hücrelerinin (BEWO) toll-like reseptör yolağına nitrofurantoinin etkisi
Influence of nitrofurantoin on toll-like receptor pathway of human trophoblastic cells (BEWO) infected with toxoplasma gondii
EDA SİVCAN
- Multiple skleroz hastalarında bakır ve çinko homeostazının metallotiyonein düzeyleri ve dna hasarı ile ilişkisinin değerlendirilmesi
Evaluation of the relationship of copper and zinc homeostasis with metallothionein levels and dna damage in multiple sclerosis patients
HANDE YÜCE
Doktora
Türkçe
2024
Farmasötik Toksikolojiİnönü ÜniversitesiFarmasötik Toksikoloji Ana Bilim Dalı
DOÇ. DR. SONGÜL ÜNÜVAR
DOÇ. DR. İLKER ATEŞ