Geri Dön

A novel deep learning approach for controlled multi-topic text generation

Kontrollü çok konulu metin üretimi için yeni bir derin öğrenme yaklaşımı

PDF İndir

  1. Tez No: 761956
  2. Yazar: CANSEN ÇAĞLAYAN
  3. Danışmanlar: DOÇ. DR. KASIM MURAT KARAKAYA
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2022
  8. Dil: İngilizce
  9. Üniversite: Atılım Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Bilgisayar Mühendisliği Bilim Dalı
  13. Sayfa Sayısı: 109

Özet

One of the most important tasks in the Controllable Text Generation (CTG) domain is to create topic-controlled texts. In this study, we propose and design three different approaches, and conduct extensive experiments on them to observe the performance of the controlled multi-topic reviews generated in Turkish. In the first approach, we generate controlled multi-topic text using a single-layer GPT language model by incorporating several control techniques. To control the language model, we first add topic information to the sequential input, as a second technique we add the automatically extracted keywords for each topic to the sequential input in addition to the first technique. The last technique that we propose is a novel sampling strategy. We propose to use a topic selection classifier that enables the next token selection according to the probability of the selected tokens being on the desired topic. Then, we apply these approaches to a more advanced language model, the multi-layer GPT, and interpret the results. In addition to these experiments, we compare three different deep learning text classification models in order to create a reliable multi-topic review classifier.

Özet (Çeviri)

Kontrollü Metin Üretimi alanındaki en önemli görevlerden biri konu kontrollü metinler yaratmaktır. Bu çalışmada, Türkçe olarak üretilen kontrollü çok konulu metinlerin performansını gözlemlemek için üç farklı yaklaşım öneriyor, tasarlıyor ve bunlar üzerinde kapsamlı deneyler yapıyoruz. İlk yaklaşımda, üç kontrol tekniğini birleştirerek tek katmanlı bir GPT dil modeli kullanarak kontrollü çok konulu metin üretiyoruz. Dil modelini kontrol etmek için önce sıralı girişe konu bilgisi ekliyoruz, ikinci teknik olarak ilk tekniğe ek olarak sıralı girişe her konu için otomatik olarak çıkarılan anahtar kelimeleri ekliyoruz. Sunduğumuz son teknik, yeni bir örnekleme stratejisidir. Seçilen belirteçlerin istenen konuda olma olasılığına göre bir sonraki belirteç seçimini sağlayan bir konu seçim sınıflandırıcısı kullanmayı öneriyoruz. Ardından, bu yaklaşımları daha gelişmiş bir dil modeli olan çok katmanlı GPT'ye uygulayıp ve sonuçları yorumluyoruz. Bu deneylere ek olarak, güvenilir bir, çok konulu metin sınıflandırıcısı oluşturmak için üç farklı derin öğrenme metin sınıflandırma modelini karşılaştırıyoruz.

Benzer Tezler

  1. Tez No

    480035

    Deep learning based unsupervised tissue segmentation in histopathological images

    Histopatolojik görüntülerde derin öğrenme temelli öğreticisiz doku bölütlemesi

    TROYA ÇAĞIL KÖYLÜ

    Yüksek Lisans

    İngilizce

    İngilizce

    2017

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİhsan Doğramacı Bilkent Üniversitesi

    Bilgisayar ve Bilişim Mühendisliği Ana Bilim Dalı

    DOÇ. DR. ÇİĞDEM GÜNDÜZ DEMİR

  2. Tez No

    828258

    A novel antenna configuration for microwave hyperthermia

    Mikrodalga hipertermi için yeni bir anten yapılanması

    GÜLŞAH YILDIZ ALTINTAŞ

    Doktora

    İngilizce

    İngilizce

    2022

    Elektrik ve Elektronik Mühendisliğiİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    PROF. DR. İBRAHİM AKDUMAN

    DOÇ. DR. TUBA YILMAZ ABDOLSAHEB

  3. Tez No

    677629

    Image annotation using deep learning and semantic web technologies

    Derin öğrenme ve anlamsal ağ teknolojilerini kullanarak görüntü açıklaması

    ARDA SEZEN

    Doktora

    İngilizce

    İngilizce

    2021

    Mühendislik BilimleriAtılım Üniversitesi

    Yazılım Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ ÇİĞDEM TURHAN

    DOÇ. DR. GÖKHAN ŞENGÜL

  4. Tez No

    875554

    Derin öğrenme temelli özgün bir android kötücül yazılım tespit modeli

    A novel android malware detection model based on deep learning

    BÜŞRA ZEYNEP KARA

    Yüksek Lisans

    Türkçe

    Türkçe

    2024

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolDüzce Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DOÇ. DR. ABDULLAH TALHA KABAKUŞ

  5. Tez No

    878652

    Prediction of pore pressure and deviatoric stress generation for liquefiable soils under cyclic loading using machine learning

    Sıvılaşabilen zeminlerde dinamik yükleme durumunda boşluk suyu basıncı ve deviatorik gerilme değişiminin makine öğrenmesi yöntemleriyle tahmin edilmesi

    ÖMER TUĞŞAD BİRİNCİ

    Yüksek Lisans

    İngilizce

    İngilizce

    2024

    Deprem Mühendisliğiİstanbul Teknik Üniversitesi

    İnşaat Mühendisliği Ana Bilim Dalı

    PROF. DR. MEHMET BARIŞ CAN ÜLKER

Geri Dön