Geri Dön

İha rota planlama yaklaşimlarinin analizi:Q-learning ve klasi̇k algoritmalar

İha rota planlama yaklaşımlarının analizi:Q-learnıng ve klasik algoritmalar

  1. Tez No: 981261
  2. Yazar: SERAP KILINÇ
  3. Danışmanlar: DR. ÖĞR. ÜYESİ MELTEM YILDIRIM İMAMOĞLU
  4. Tez Türü: Yüksek Lisans
  5. Konular: Mühendislik Bilimleri, Bilim ve Teknoloji, Savunma ve Savunma Teknolojileri, Engineering Sciences, Science and Technology, Defense and Defense Technologies
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2025
  8. Dil: Türkçe
  9. Üniversite: Türk Hava Kurumu Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: İnsansız ve Otonom Sistem Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: Belirtilmemiş.

Özet

Bu çalışmada, insansız hava araçları (İHA) için rota planlama probleminin çözümünde yapay zekâ tabanlı pekiştirmeli öğrenme yaklaşımı olan Q-learning algoritması ile geleneksel rota planlama yöntemleri (Dijkstra ve A*) karşılaştırmalı olarak incelenmiştir. Gerçek uçuşlardan elde edilen GPS verileri kullanılarak dört farklı rota senaryosu oluşturulmuş ve her bir algoritma, tahmini seyahat süresi, hesaplama süresi, rota esnekliği ve çevresel değişkenlere adaptasyon kabiliyeti gibi ölçütler açısından değerlendirilmiştir. Q-learning algoritması çevresel değişikliklere uyum sağlama ve veri setinde tanımlı olmayan yeni rotalar keşfetme yeteneğiyle öne çıkarken, uzun süren bir eğitim süreci gerektirmektedir. Deneysel sonuçlar, sabit ve önceden tanımlı haritalarda A* ve Dijkstra algoritmalarının hem daha kısa hesaplama süreleri hem de benzer veya daha iyi rota kalitesi sunduğunu; buna karşın Q-learning'in özellikle belirsizlik ve adaptasyon gerektiren senaryolarda avantaj sağladığını göstermiştir. Çalışmada kullanılan veri setleri, gerçek uçuşlardan toplanan .gpx formatındaki konum–zaman bilgileri ile Optimized flocking of autonomous drones in confined environments başlıklı çalışmadan elde edilen açık erişimli uçuş verilerini içermekte olup, ikinci veri seti kontrollü bir ortamda çeşitli engel yapılarına göre tasarlanmış 24 farklı senaryo üzerinden çok sayıda drone'un kolektif uçuş davranışlarını kapsamaktadır. Ayrıca, tez kapsamında geliştirilen bir simülasyon ortamında Q-learning algoritması dinamik bir model üzerinde test edilmiş, motor itkileri otomatik olarak üretilmiş ve hız/irtifa takibi doğrulanmaya çalışılmıştır. Elde edilen bulgular, tablo tabanlı Q-learning'in sürekli uzayda sınırlı hassasiyetle çalıştığını, ancak derin öğrenme tabanlı yöntemlerle desteklendiğinde daha güçlü bir çözüm potansiyeline sahip olduğunu ortaya koymuştur. Sonuç olarak, dinamik ve belirsiz ortamlarda öğrenmeye dayalı Q-learning algoritması operasyonel esneklik açısından avantaj sağlarken; sabit, deterministik ve hızlı çözüm gerektiren senaryolarda A* ve Dijkstra gibi klasik yöntemler daha uygun bir tercih sunmaktadır.

Özet (Çeviri)

This thesis presents a comparative analysis of Q-learning, a model-free reinforcement learning algorithm, and classical path planning methods (Dijkstra and A*) for route optimization in unmanned aerial vehicle (UAV) systems. While AI-based approaches like Q-learning offer adaptability and the capability to discover new routes in dynamic and uncertain environments, classical algorithms are known for their computational efficiency and deterministic performance in static and well-defined maps. In this study, Python-based simulations were conducted using real-world UAV GPS trajectory datasets, including .gpx flight logs collected from actual missions and an open-access dataset from the study Optimized flocking of autonomous drones in confined environments. Four different route scenarios were constructed, and all algorithms were evaluated in terms of travel time, computation time, route flexibility, and adaptability to environmental changes. Experimental results show that, in static and deterministic scenarios, A* and Dijkstra outperform Q-learning by producing slightly shorter or comparable paths in a fraction of the computation time; however, Q-learning demonstrated the ability to discover alternative paths not explicitly defined in the dataset, offering potential advantages in environments with obstacles, uncertainty, or real-time changes. Additionally, a simulation-based dynamic model was implemented to test Q-learning's capability in continuous space, where findings revealed oscillations and deviations, highlighting the necessity of more advanced approaches such as Deep Q-Networks (DQN) for improved stability. Overall, this work emphasizes the importance of selecting an appropriate algorithm based on mission context: classical algorithms are preferable for fixed, well-mapped environments requiring rapid computation, while Q-learning is better suited for adaptive, dynamic, and exploratory UAV missions. Future research directions include multi-agent coordination, energy-aware routing strategies, integration with real-time sensor data, and reinforcement learning extensions in continuous domains to enhance operational performance.

Benzer Tezler

  1. Integrating path planning and image processing with UAVs for disease detection and yield estimation in indoor agriculture

    Kapalı alan tarımda hastalık tespiti ve verim tahmini için rota planlama ve görüntü işlemenin İHA'larla entegre edilmesi

    ONAT ERDOĞMUŞ

    Yüksek Lisans

    İngilizce

    İngilizce

    2024

    Mekatronik Mühendisliğiİstanbul Teknik Üniversitesi

    Mekatronik Mühendisliği Ana Bilim Dalı

    PROF. DR. ERDİNÇ ALTUĞ

  2. Otonom dronlar için optimal görev atama ve rota planlama

    Optimal mission assignment and route planning for autonomous drones

    HÜSEYİN GÖKTAŞ

    Yüksek Lisans

    Türkçe

    Türkçe

    2022

    Elektrik ve Elektronik MühendisliğiEskişehir Osmangazi Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ HASAN SERHAN YAVUZ

  3. Orman yangınlarının iha sürüleriyle erken tespiti için kapsama planlama algoritmalarının değerlendirilmesi

    Evaluation of coverage planning algorithms for early detection of forest fires using uav swarms

    ŞABAN AYVAZ

    Yüksek Lisans

    Türkçe

    Türkçe

    2026

    Mekatronik MühendisliğiErciyes Üniversitesi

    Mekatronik Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ ERDEM ARSLAN

  4. Metasezgisel optimizasyon algoritmaları kullanarak çok rotorlu insansız hava aracı ile faydalı yük al bırak görevi için rota planlama

    Path planning for payload pick-drop mission with multi-rotor unmanned aerial vehicle using metaheuristic optimization algorithms

    EGEMEN BELGE

    Doktora

    Türkçe

    Türkçe

    2024

    Elektrik ve Elektronik MühendisliğiZonguldak Bülent Ecevit Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. RIFAT HACIOĞLU

  5. Path planning and coordinated guidance of multiple unmanned aerial vehicles

    Rota planlama ve çoklu insansız hava araçlarının koordineli güdümü

    HALİT ERGEZER

    Doktora

    İngilizce

    İngilizce

    2013

    Elektrik ve Elektronik MühendisliğiOrta Doğu Teknik Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    PROF. DR. MEHMET KEMAL LEBLEBİCİOĞLU