Transformer models for translating natural language sentences into formal logical expressions
Doğal dil cümlelerini formel mantık ifadelerine çevirmek için transformer modelleri
- Tez No: 864386
- Danışmanlar: DOÇ. DR. AZİZ FEVZİ ZAMBAK, DR. CEYHAN TEMÜRCÜ
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Dilbilim, Computer Engineering and Computer Science and Control, Linguistics
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2024
- Dil: İngilizce
- Üniversite: Orta Doğu Teknik Üniversitesi
- Enstitü: Enformatik Enstitüsü
- Ana Bilim Dalı: Bilişsel Bilim Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 97
Özet
Doğal dil cümlelerini mantıksal ifadelere çevirmek, bağlamsal bilgi ve cümlelerin değişken karmaşıklığı nedeniyle zorlu bir görev olmuştur. Bu görevin kural tabanlı ve istatistiksel yöntemler kullanılarak ele alınması kolay değildir. Son yıllarda yeni bir derin öğrenme mimarisi olan Transformer mimarisi doğal dil işleme görevlerinde zor veya imkansız gibi görünen görevleri ele almanın yeni yollarını sunmuştur. Transformer mimarisi ve ona dayanan dil modelleri yapay zeka araştırma alanını ve doğal dil işleme görevlerine yaklaşımımızı değiştirmiştir. Bu tezde Transformer modelleri kullanılarak cümlelerin birinci dereceden mantık ifadelerine çevrilmesinde başarılı sonuçlar elde edilip edilemeyeceğini görmek için deneyler gerçekleştiriyoruz. Modellerimizi ifadelerin formel yönlerini yakalama, iyi biçimlendirilmiş ifadeler üretme ve görülmeyen cümleler üzerinden genellenebilirlik açısından değerlendiriyoruz.
Özet (Çeviri)
Translating natural language sentences into logical expressions has been challenging due to contextual information and the variational complexity of sentences. The task is not straightforward to handle using rule-based and statistical methods. In recent years, a new deep learning architecture, namely the Transformer architecture, has provided new ways to handle what was hard or seemed impossible in natural language processing tasks. The Transformer architecture and language models that are based on it revolutionized the artificial intelligence field of research and changed how we approach natural language processing tasks. In this thesis, we conduct experiments to see whether successful results can be achieved using Transformer models in translating sentences into first-order logic expressions. We evaluate our models in terms of capturing the formal aspects of the expressions, generating well-formed expressions, and generalizability over unseen sentences.
Benzer Tezler
- Mimari tasarımda biçim grameri:metro istasyon tasarımı
Shape grammer in architectural design: subway station design
NURBİN PAKER
- Yazılı Türkçe dilinden Türk işaret diline (tid) makine çevirisi sistemi
Text to sign language machine translation system for Turkish
CİHAT ERYİĞİT
Doktora
Türkçe
2017
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. HATİCE KÖSE
- Transqlate: Translating natural language sentences to sql queries using transformers
Transqlate: Zenginleştirilmiş doğal dil cümlelerini transformerler kullanarak sql sorgularına çevirmek
MOUSA FARSHKAR AZARI
Yüksek Lisans
İngilizce
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİhsan Doğramacı Bilkent ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. ÖZGÜR ULUSOY
- Türkçe dilinde eşanlatım derlemi oluşturma ve doğal dil işleme modellerinin karşılaştırılması
Turkish paraphrase corpus generation and comparison of natural language processing models
HİLAL TEKGÖZ
Yüksek Lisans
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKocaeli ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
PROF. DR. SEVİNÇ İLHAN OMURCA
- Dönüştürücü dil modellerine etkili hassas ayar yapmak için veri mühendisliği yöntemleri
Data engineering methods for effective fine tuning transformers language models
MUHAMMED SAİD ZENGİN
Yüksek Lisans
Türkçe
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolTOBB Ekonomi ve Teknoloji ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ MÜCAHİD KUTLU