Geri Dön

Deep reinforcement learning for autonomous quadcopter guidance

Otonom dört rotorlu insansız hava aracı güdümü için derin pekiştirmeli öğrenme

  1. Tez No: 811309
  2. Yazar: ŞEVKET UTKU AYDINLI
  3. Danışmanlar: DR. ÖĞR. ÜYESİ ALİ TÜRKER KUTAY
  4. Tez Türü: Yüksek Lisans
  5. Konular: Havacılık ve Uzay Mühendisliği, Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Elektrik ve Elektronik Mühendisliği, Aeronautical Engineering, Computer Engineering and Computer Science and Control, Electrical and Electronics Engineering
  6. Anahtar Kelimeler: Makine öğrenmesi, Makine öğrenmesi yöntemleri, Yapay zeka, Machine learning, Machine learning methods, Artificial intelligence
  7. Yıl: 2023
  8. Dil: İngilizce
  9. Üniversite: Orta Doğu Teknik Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Havacılık ve Uzay Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: Belirtilmemiş.

Özet

Bu tez dört rotorlu insansız hava aracı güdümü problemini incelemekte ve bu problemin çözümü için derin pekiştirmeli öğrenme tabanlı yaklaşımları önermektedir. Tez kapsamında, dört rotorlu insansız hava aracı güdümü problemi 2B ve 3B uzayda güdüm, eş zamanlı varış ve vuruş zamanı kontrolü gibi çeşitli yönlerden incelenmiştir. Önerilen yaklaşımların hedef hareketi, ölçüm gecikmesi ve sistem gecikmesi gibi ideal olmayan koşullar altında dört rotorlu insansız hava aracı güdümü problemi için uygunluğu değerlendirilmiştir. İlk olarak, derin pekiştirmeli öğrenme tabanlı yaklaşımlar klasik kapalı formdaki güdüm algoritmaları ve model tabanlı hesaplamalı güdüm algoritması ile hem benzetim ortamında hem de deneylerde sabit ve hareketli hedefler için karşılaştırılmıştır. İkinci olarak hedef hareketi, sistem gecikmesi ve ölçüm gecikmesi gibi ideal olmayan koşulların önerilen yaklaşımların performansları üzerindeki etkisi incelenmiştir. Üçüncü olarak, eşzamanlı varış ve vuruş zamanı kontrolü problemlerinin çözümü için özgün üç aşamalı öğrenme tabanlı yaklaşım önerilmiştir. Son olarak, 3B uzayda dört rotorlu insansız hava aracı güdümü probleminin çözümü için derin pekiştirmeli öğrenmeye dayalı yaklaşımların kullanılabilirliği araştırılmıştır. Benzetim ve deney sonuçları, önerilen yaklaşımların yukarıda belirtilen dört rotorlu insansız hava aracı güdümü problemleri için uygun bir çözüm olduğunu göstermektedir.

Özet (Çeviri)

This thesis examines the quadcopter guidance problem and proposes deep reinforcement learning-based approaches for the solution of this problem. Within the scope of this thesis, the quadcopter guidance problem has been examined from various aspects such as guidance in 2D and 3D spaces, simultaneous arrival and impact time control. The suitability of the proposed approaches for quadcopter guidance problem under non-ideal conditions such as target movement, measurement delay and system delay has been evaluated. Firstly, deep reinforcement learning-based guidance approaches were compared with classical closed-form guidance algorithms and model-based computational guidance algorithm in both simulations and experiments for stationary and moving targets. Secondly, the effect of non-ideal conditions such as target movement, system delay, and measurement delay on the performances of the proposed approaches has been examined. Thirdly, a novel three-stage learning-based approach was proposed for the solution of the simultaneous arrival and impact time control problems. Finally, the usability of deep reinforcement learning-based approaches to solve the quadcopter guidance problem in 3D was investigated. The simulation and experimental results show that the proposed approaches are suitable solutions for the above-mentioned quadcopter guidance problems.

Benzer Tezler

  1. Deep reinforcement learning for autonomous air combat under noisy observations

    Gürültülü gözlem altında otonom hava muharebesi için derin pekiştirmeli ögrenme

    AHMET SEMİH TAŞBAŞ

    Yüksek Lisans

    İngilizce

    İngilizce

    2023

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DOÇ. DR. NAZIM KEMAL ÜRE

  2. GPS ve görüntü verisi olmayan ortamlarda insansız hava araçları için derin pekiştirmeli öğrenme tabanlı tam otonom yönelim ve uçuş rota planlaması

    Deep reinforcement learning-based fully autonomous orientation and flight path planning for unmanned aerial vehicles in GPS- and vision denied environments

    HÜSEYİN KÜÇÜKERDEM

    Doktora

    Türkçe

    Türkçe

    2025

    Elektrik ve Elektronik MühendisliğiGazi Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. CEMAL YILMAZ

  3. Derin pekiştirmeli öğrenmeye dayalı otonom sürüş için açıklanabilir yapay zeka

    Explainable artificial intelligence (xai) for deep reinforcement learning based autonomous driving

    MUHSİN KOMPAS

    Yüksek Lisans

    Türkçe

    Türkçe

    2024

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolPamukkale Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ İBRAHİM KÖK

  4. Deep reinforcement learning approach for trading automation in the stock market

    Hisse senetlerinde işlem otomasyonu için derin güçlendirme öğrenme yaklaşımı

    TAYLAN KABBANİ

    Yüksek Lisans

    İngilizce

    İngilizce

    2021

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolÖzyeğin Üniversitesi

    Veri Bilimi Ana Bilim Dalı

    Prof. Dr. EKREM DUMAN

  5. Deep reinforcement learning for partially observable markov decision processes

    Kısmi gözlemlenebilir markov karar süreçleri için derin pekiştirmeli öğrenme

    MEHMET HAKLIDIR

    Doktora

    İngilizce

    İngilizce

    2022

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Kontrol ve Otomasyon Mühendisliği Ana Bilim Dalı

    PROF. DR. HAKAN TEMELTAŞ