Batch mode reinforcement learning for controlling gene regulatory networks and multi-model gene expression data enrichment framework
Gen ağlarını kontrol etmek için yığın biçiminde pekiştirmeli öğrenme ve çoklu-model gen ifade verisi zenginleştirme yöntemi
- Tez No: 338459
- Danışmanlar: PROF. DR. FARUK POLAT
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Bilim ve Teknoloji, Biyomühendislik, Computer Engineering and Computer Science and Control, Science and Technology, Bioengineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2013
- Dil: İngilizce
- Üniversite: Orta Doğu Teknik Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 154
Özet
Gen düzenleme sistemlerinin modellemesi ve kontrolü son on yılda çok dikkat çekmiştir. Bu tezde, (i) gen düzenleme sistemlerini kontrol etme ve (ii) yüksek kaliteli yapay gen ifade verisi üretme problemleri çözülmeye çalışılmıştır. Gen düzenleme sistemlerini kontrol etmek için, Yığın Modunda Pekiştirmeli Öğrenme (Batch RL) tekniklerine dayanan, üç kontrol çözümü önerilmiştir. Tam gözlemlenebilir gen düzenleme sistemleri için bir, kısmi gözlemlenebilir gen düzenleme sistemleri için iki kontrol çözümü önerilmiştir. Tam gözlemlenebilir düzenleme sistemlerinin kontrolü için, hiçbir berimsel yöntem kullanmadan, direkt olarak gen ifade verisinden yaklaşık kontrol politikaları üreten bir yöntem önerilmiştir. Sonuçlar gösteriyor ki, mevcut çalışmalar birkaç on genlik sistemler için çözüm üretemezken, bizim önerdiğimiz yöntem, sadece birkaç saniye içinde, kayda değer bir performans kaybı olmadan, binlerce genlik düzenleme sistemleri için yaklaşık kontrol politikaları üretebilmektedir. Kısmi gözlemlenebilir düzenleme sistemlerinin kontrolü için, ilk olarak, kısmi gözlemlenebilir ortamlar için yeni bir Batch RL taslağı, Yığın Modunda TD(?), önerilmiştir. Temel fikir, gen düzenleme sisteminin gerçek iç dinamiklerini hesaplamadan, gözlemleri direkt olarak aksiyonlara olasılıksal olarak eşleyen yaklaşık kontrol politikaları üretmektir. Sonuçlar gösteriyor ki, mevcut çalışmalar birkaç on genlik sistemler için çözüm üretemezken, Yığın Modunda TD(?), saniyeler içinde, binlerce genlik düzenleme sistemleri için başarılı olasılıksal kontrol politikaları üretebilmektedir. Bildiğimiz kadarı ile, Yığın Modunda TD(?), kısıtlı deneyim bilgisi ile Markov özelliği göstermeyen karar problemlerini çözmek için önerilen ilk taslaktır. Kısmi gözlemlenebilir düzenleme sistemlerinin kontrolü için, ikinci olarak, direkt gen ifade verisinden Kısmi Gözlemlenebilir Markov Karar Süreci (POMDP) kuran bir yöntem önerilmiştir. Önerdiğimiz yeni POMDP kurma yöntemi, yaklaşık olarak gözlem-aksiyon değerleri hesaplamakta, ve nihai POMDP'yi kurmak için, bu yaklaşık değerlere gizli durum belirleme yöntemlerini uygulamaktadır. Sonuçlar gösteriyor ki, önerdiğimiz POMDP kurma yöntemi, mevcut çalışmalardan hem zaman gerekliliği hem de çözüm kalitesi olarak daha iyi sonuçlar üretmektedir. Yüksek kaliteli yapay gen ifade verisi üretmek için, yeni bir çoklu-model gen ifade verisi zenginleştirme taslağı önerilmiştir. Dört gen ifade verisi üretme modeli tek bir taslakta birleştirilmiş, ve hepsinden aynı anda faydalanılmaya çalışılmıştır. Her üretici modelden veri alınıp, bu veriler birleştirilmiş ve en iyileri çoklu-amaçlı seçme mekanizması ile üretilmiştir. Sonuçlar, önerilen çoklu-model veri üretme sisteminin ürettiği yüksek kaliteli yapay gen ifade verilerinden çıkarsanan düzenleme ağlarının, orijinal gen ifade verilerinden çıkarsanan düzenleme ağlarından daha iyi olduğunu göstermektedir.
Özet (Çeviri)
Over the last decade, modeling and controlling gene regulation has received much attention. In this thesis, we have attempted to solve (i) controlling gene regulation systems and (ii) generating high quality artificial gene expression data problems. For controlling gene regulation systems, we have proposed three control solutions based on Batch Mode Reinforcement Learning (Batch RL) techniques. We have proposed one control solution for fully, and two control solutions for partially observable gene regulation systems. For controlling fully observable gene regulation systems, we have proposed a method producing approximate control policies directly from gene expression data without making use of any computational model. Results show that our proposed method is able to produce approximate control policies for gene regulation systems of several thousands of genes just in seconds without loosing significant performance; whereas existing studies get stuck even for several tens of genes. For controlling partially observable gene regulation systems, firstly, we have proposed a novel Batch RL framework for partially observable environments, Batch Mode TD(?). Its idea is to produce approximate stochastic control policies mapping observations directly to actions probabilistically without estimating actual internal states of the regulation system. Results show that Batch Mode TD(?) is able to produce successful stochastic policies for regulation systems of several thousands of genes in seconds; whereas existing studies cannot produce control solution for regulation systems of several tens of genes. To our best knowledge, Batch Mode TD(?) is the first framework for solving non-Markovian decision tasks with limited number of experience tuples. For controlling partially observable gene regulation systems, secondly, we have proposed a method to construct a Partially Observable Markov Decision Process (POMDP) directly from gene expression data. Our novel POMDP construction method calculates approximate observation-action values for each possible observation, and applies hidden state identification techniques to those approximate values for building the ultimate POMDP. Results show that our constructed POMDPs perform better than existing solutions in terms of both time requirements and solution quality. For generating high quality artificial gene expression data, we have proposed a novel multi-model gene expression data enrichment framework. We have combined four gene expression data generation models into one unified framework, and tried to benefit all of them concurrently. We have sampled from each generative models separately, pooled the generated samples, and output the best ones based on a multi-objective selection mechanism. Results show that our proposed multi-model gene expression data generation framework is able to produce high quality artificial samples from which inferred regulatory networks are better than the regulatory networks inferred from original datasets.
Benzer Tezler
- Plastik ürün tasarım ilkeleri
Principles of plastic product design
M.ALPER ASLAN
Yüksek Lisans
Türkçe
1997
Makine Mühendisliğiİstanbul Teknik ÜniversitesiMakine Mühendisliği Ana Bilim Dalı
PROF. DR. SELMA AKKURT
- Removal of dye (Reactive Green 19) from aqueous medium using amine modified resin
Amin grubu modifiye edilmiş reçine kullanarak sucul ortamdan boya (Reaktif Yeşil 19) giderimi
FARİD HASSANBAKİ GARABAGHİ
Yüksek Lisans
İngilizce
2014
Çevre MühendisliğiHacettepe ÜniversitesiÇevre Mühendisliği Ana Bilim Dalı
PROF. DR. AYŞENUR UĞURLU
PROF. DR. GÜLAY BAYRAMOĞLU
- Kesikli ve sürekli elektrokoagülasyon prosesleri ile atıksulardan fosfat giderimi ve prosesin optimizasyonu
Phosphate removal from wastewaters by batch and continuous electrocoagulation processes and optimization of the process
MURAT SOLAK
Doktora
Türkçe
2013
Çevre MühendisliğiSüleyman Demirel ÜniversitesiÇevre Mühendisliği Ana Bilim Dalı
DOÇ. DR. MEHMET KILIÇ
- Biological treatment of saline wastewaters by using halophilic organisms and fed batch operation
Tuz içeren atık sularının tuz tolere eden organizmalarla ve kesikli beslemeli sistem kullanılarak arıtımı
ALİ RIZA DİNÇER
- Sulu ortamdan reaktif kırmızısı 198 boyarmaddesinin giderimi için Thamnidium elegans fungal biyokütlesinin biyosorpsiyon özelliklerinin incelenmesi
Investigation of the biosorption properties of Thamnidium elegans fungal biomass for the removal of reactive red 198 dye from aqueous media
SERCAN ARSLAN
Yüksek Lisans
Türkçe
2011
BiyokimyaEskişehir Osmangazi ÜniversitesiKimya Ana Bilim Dalı
DOÇ. DR. TAMER AKAR