İha rota planlama yaklaşimlarinin analizi:Q-learning ve klasi̇k algoritmalar
İha rota planlama yaklaşımlarının analizi:Q-learnıng ve klasik algoritmalar
- Tez No: 981261
- Danışmanlar: DR. ÖĞR. ÜYESİ MELTEM YILDIRIM İMAMOĞLU
- Tez Türü: Yüksek Lisans
- Konular: Mühendislik Bilimleri, Bilim ve Teknoloji, Savunma ve Savunma Teknolojileri, Engineering Sciences, Science and Technology, Defense and Defense Technologies
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2025
- Dil: Türkçe
- Üniversite: Türk Hava Kurumu Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: İnsansız ve Otonom Sistem Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu çalışmada, insansız hava araçları (İHA) için rota planlama probleminin çözümünde yapay zekâ tabanlı pekiştirmeli öğrenme yaklaşımı olan Q-learning algoritması ile geleneksel rota planlama yöntemleri (Dijkstra ve A*) karşılaştırmalı olarak incelenmiştir. Gerçek uçuşlardan elde edilen GPS verileri kullanılarak dört farklı rota senaryosu oluşturulmuş ve her bir algoritma, tahmini seyahat süresi, hesaplama süresi, rota esnekliği ve çevresel değişkenlere adaptasyon kabiliyeti gibi ölçütler açısından değerlendirilmiştir. Q-learning algoritması çevresel değişikliklere uyum sağlama ve veri setinde tanımlı olmayan yeni rotalar keşfetme yeteneğiyle öne çıkarken, uzun süren bir eğitim süreci gerektirmektedir. Deneysel sonuçlar, sabit ve önceden tanımlı haritalarda A* ve Dijkstra algoritmalarının hem daha kısa hesaplama süreleri hem de benzer veya daha iyi rota kalitesi sunduğunu; buna karşın Q-learning'in özellikle belirsizlik ve adaptasyon gerektiren senaryolarda avantaj sağladığını göstermiştir. Çalışmada kullanılan veri setleri, gerçek uçuşlardan toplanan .gpx formatındaki konum–zaman bilgileri ile Optimized flocking of autonomous drones in confined environments başlıklı çalışmadan elde edilen açık erişimli uçuş verilerini içermekte olup, ikinci veri seti kontrollü bir ortamda çeşitli engel yapılarına göre tasarlanmış 24 farklı senaryo üzerinden çok sayıda drone'un kolektif uçuş davranışlarını kapsamaktadır. Ayrıca, tez kapsamında geliştirilen bir simülasyon ortamında Q-learning algoritması dinamik bir model üzerinde test edilmiş, motor itkileri otomatik olarak üretilmiş ve hız/irtifa takibi doğrulanmaya çalışılmıştır. Elde edilen bulgular, tablo tabanlı Q-learning'in sürekli uzayda sınırlı hassasiyetle çalıştığını, ancak derin öğrenme tabanlı yöntemlerle desteklendiğinde daha güçlü bir çözüm potansiyeline sahip olduğunu ortaya koymuştur. Sonuç olarak, dinamik ve belirsiz ortamlarda öğrenmeye dayalı Q-learning algoritması operasyonel esneklik açısından avantaj sağlarken; sabit, deterministik ve hızlı çözüm gerektiren senaryolarda A* ve Dijkstra gibi klasik yöntemler daha uygun bir tercih sunmaktadır.
Özet (Çeviri)
This thesis presents a comparative analysis of Q-learning, a model-free reinforcement learning algorithm, and classical path planning methods (Dijkstra and A*) for route optimization in unmanned aerial vehicle (UAV) systems. While AI-based approaches like Q-learning offer adaptability and the capability to discover new routes in dynamic and uncertain environments, classical algorithms are known for their computational efficiency and deterministic performance in static and well-defined maps. In this study, Python-based simulations were conducted using real-world UAV GPS trajectory datasets, including .gpx flight logs collected from actual missions and an open-access dataset from the study Optimized flocking of autonomous drones in confined environments. Four different route scenarios were constructed, and all algorithms were evaluated in terms of travel time, computation time, route flexibility, and adaptability to environmental changes. Experimental results show that, in static and deterministic scenarios, A* and Dijkstra outperform Q-learning by producing slightly shorter or comparable paths in a fraction of the computation time; however, Q-learning demonstrated the ability to discover alternative paths not explicitly defined in the dataset, offering potential advantages in environments with obstacles, uncertainty, or real-time changes. Additionally, a simulation-based dynamic model was implemented to test Q-learning's capability in continuous space, where findings revealed oscillations and deviations, highlighting the necessity of more advanced approaches such as Deep Q-Networks (DQN) for improved stability. Overall, this work emphasizes the importance of selecting an appropriate algorithm based on mission context: classical algorithms are preferable for fixed, well-mapped environments requiring rapid computation, while Q-learning is better suited for adaptive, dynamic, and exploratory UAV missions. Future research directions include multi-agent coordination, energy-aware routing strategies, integration with real-time sensor data, and reinforcement learning extensions in continuous domains to enhance operational performance.
Benzer Tezler
- Integrating path planning and image processing with UAVs for disease detection and yield estimation in indoor agriculture
Kapalı alan tarımda hastalık tespiti ve verim tahmini için rota planlama ve görüntü işlemenin İHA'larla entegre edilmesi
ONAT ERDOĞMUŞ
Yüksek Lisans
İngilizce
2024
Mekatronik Mühendisliğiİstanbul Teknik ÜniversitesiMekatronik Mühendisliği Ana Bilim Dalı
PROF. DR. ERDİNÇ ALTUĞ
- Otonom dronlar için optimal görev atama ve rota planlama
Optimal mission assignment and route planning for autonomous drones
HÜSEYİN GÖKTAŞ
Yüksek Lisans
Türkçe
2022
Elektrik ve Elektronik MühendisliğiEskişehir Osmangazi ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ HASAN SERHAN YAVUZ
- Orman yangınlarının iha sürüleriyle erken tespiti için kapsama planlama algoritmalarının değerlendirilmesi
Evaluation of coverage planning algorithms for early detection of forest fires using uav swarms
ŞABAN AYVAZ
Yüksek Lisans
Türkçe
2026
Mekatronik MühendisliğiErciyes ÜniversitesiMekatronik Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ ERDEM ARSLAN
- Metasezgisel optimizasyon algoritmaları kullanarak çok rotorlu insansız hava aracı ile faydalı yük al bırak görevi için rota planlama
Path planning for payload pick-drop mission with multi-rotor unmanned aerial vehicle using metaheuristic optimization algorithms
EGEMEN BELGE
Doktora
Türkçe
2024
Elektrik ve Elektronik MühendisliğiZonguldak Bülent Ecevit ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. RIFAT HACIOĞLU
- Path planning and coordinated guidance of multiple unmanned aerial vehicles
Rota planlama ve çoklu insansız hava araçlarının koordineli güdümü
HALİT ERGEZER
Doktora
İngilizce
2013
Elektrik ve Elektronik MühendisliğiOrta Doğu Teknik ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. MEHMET KEMAL LEBLEBİCİOĞLU