Geri Dön

A transformer-based archıtecture: The ınformer model for uav power consumptıon estımatıon

İha güç tüketimi tahmini için transformer tabanlı ınformer modeli

  1. Tez No: 963027
  2. Yazar: AHMET KAAN DURMAZ
  3. Danışmanlar: PROF. DR. GÜLAY ÖKE GÜNEL
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Mekatronik Mühendisliği, Computer Engineering and Computer Science and Control, Mechatronics Engineering
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2025
  8. Dil: İngilizce
  9. Üniversite: İstanbul Teknik Üniversitesi
  10. Enstitü: Lisansüstü Eğitim Enstitüsü
  11. Ana Bilim Dalı: Mekatronik Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 107

Özet

İnsansız Hava Araçları (İHA'lar), yaygın olarak bilinen adıyla dronlar, paket teslimatından gözetlemeye kadar birçok alanda giderek daha fazla kullanılmaktadır. İHA'ların daha geniş çapta benimsenmesini sınırlayan temel zorluklardan biri enerji kısıtlamasıdır; küçük yerleşik piller uçuş süresini ve menzilini ciddi şekilde sınırlar. İHA güç tüketimi, hava koşulları, taşıma yükü, uçuş hızı ve uçuş rotası gibi birçok dinamik faktörden etkilenir. Bu çevresel ve operasyonel belirsizlikler, enerji kullanımında önemli değişkenliklere yol açar ve güvenilir güç tüketim tahmin modellerine olan ihtiyacı ortaya koyar. Bir dronun güç gereksinimlerinin doğru bir şekilde tahmin edilmesi, güvenli operasyonların sağlanması, uçuş sırasında pil tükenmesinin önlenmesi ve görev planlamasının optimize edilmesi için hayati öneme sahiptir. Araştırmalar, tahmin doğruluğunun artırılmasının uçuş sürelerini uzatmaya, yükleri etkili bir şekilde yönetmeye ve genel İHA güvenilirliğini artıracak yedek önlemler uygulamaya yardımcı olabileceğini vurgulamaktadır. Bu gereksinimler doğrultusunda, son dönemde yapılan araştırmalar İHA enerji tüketimini modellemek için gelişmiş makine öğrenimi tekniklerine yönelmiştir. Derin öğrenmenin İHA enerji yönetimiyle entegre edilmesi, veri odaklı güç kullanımı tahminlerini mümkün kılarak kaynak tahsisini optimize etmeye ve sistem performansını artırmaya olanak tanır. Güç tüketimi tahmini, İHA operasyonel verimliliğini doğrudan etkilediği için özellikle kritik bir çalışma alanı olarak öne çıkmaktadır. Bu tez, İHA güç tüketimini tahmin etmek için Informer olarak bilinen, zaman serisi tahmini konusunda son teknoloji bir Transformer tabanlı mimariyi inceleyerek bu zorluğa çözüm aramaktadır. Informer modeli, uzun dizileri verimli bir şekilde işlemek üzere tasarlanmış, zaman serisi tahmininde kullanılan yeni bir yaklaşımdır. Bu model kapsamlı bir İHA uçuş veri kümesine uygulanarak, uçuş koşulları ile güç kullanımı arasındaki karmaşık ilişkilerin yakalanması ve nihayetinde dronlar için güç tüketimi tahminlerinin doğruluğunun artırılması amaçlanmaktadır. Son dönemdeki literatürde dikkat çeken önemli bir eğilim, İHA enerji tahminine dikkat mekanizmalarının (attention) ve Transformer tabanlı modellerin dahil edilmesidir. Dikkat mekanizmaları, modellerin farklı zaman adımlarının veya özelliklerin etkisini ağırlıklandırmasına olanak tanır; bu, hız, irtifa, rüzgar vb. gibi çok değişkenli dron uçuş verileri açısından değerlidir. Nitekim, yapılan çalışmalar, GRU gibi sıralı modellere (sequence models) kendi kendine dikkat (self-attention) eklemenin, güç tüketimi tahmininde belirgin performans artışı sağladığını göstermiştir. Uçuş sırasında kritik giriş özelliklerine odaklanan dikkat tabanlı modeller, ani rüzgar patlamaları veya yük değişikliklerinden kaynaklanan güç kullanımı dalgalanmalarını daha doğru tahmin edebilir. Bu umut verici sonuçlar, aslen doğal dil işleme için geliştirilen Transformer mimarisinin İHA zaman serisi verilerine uygulanmasının yolunu açmaktadır. Transformer modelinin uzun vadeli bağımlılıkları kayıpsız yakalama kapasitesi, bu alan için cazip hale getirir. Ancak, standart bir Transformer, dizi uzunluğuna bağlı olarak karesel hesaplama karmaşıklığı nedeniyle uzun uçuş dizileri için hesaplama yükü açısından kullanışsız olabilir. Bunu aşmak için araştırmacılar, uzun dizi tahmininde gelişmiş verimlilik sunan Informer mimarisini geliştirmiştir. Informer'ın erken dönem değerlendirmeleri, önceki tahmin yöntemlerini önemli ölçüde geride bıraktığını ve uzun dizileri azaltılmış hesaplama maliyetiyle işleyebildiğini göstermiştir. Literatürdeki bu gelişmeler, Informer modelininin İHA güç tüketimi tahmini problemine uygulaması için güçlü bir temel ve motivasyon sağlamaktadır. Bu tez çalışması, İHA güç tüketiminin çok değişkenli zaman serisi tahminini gerçekleştirmek için Transformer tabanlı bir sinir ağı mimarisi olan Informer modelini benimsemektedir. Bu süreçte gerçek zamanlı deneylerle toplanan, kamuya açık bir uçuş kayıt veri seti kullanılmıştır. Informer'ın seçilme nedeni, uzun veri dizilerini standart bir Transformer'dan daha verimli bir şekilde işleyebilme yeteneğidir. Temelde Informer, uzun vadeli tahmin için uyarlanmış bir kodlayıcı-kod çözücü (encoder–decoder) modelidir. Kodlayıcı, geçmiş verilere ait uzun bir giriş dizisini işlerken, kod çözücü gelecek diziye (hedef aralığa) yönelik tahminler üretir. İHA güç tahmini bağlamında bu, modelin geçmiş uçuş telemetrisi (birden fazla zaman adımındaki sensör okumaları ve güç kullanımı) penceresini alması ve gelecek zaman adımlarındaki dron güç tüketimini tahmin etmesi anlamına gelir. Informer modelinin İHA veri kümesine uygulanmasında tez, tipik bir model geliştirme ve değerlendirme hattını izlemektedir. Temizlenmiş ve ön işleme tabi tutulmuş veriler (seçili özelliklerle) eğitim ve test alt kümelerine bölünür; böylece model, uçuşların bir bölümünden öğrenir ve görmediği ayrı uçuşlarda doğrulanır. Eğitim setinden gelen çok değişkenli zaman serileri, Informer'ın parametrelerini ayarlamak için kullanılır; bu, modelin iç ağırlıklarının çıktısının, kaydedilen gerçek güç kullanımı dizisine mümkün olduğunca yakın hale gelecek şekilde ayarlanması sürecini içerir. Eğitim optimizasyonu, tahmin edilen ve gerçek güç değerleri arasındaki ortalama kare hata gibi hata ölçümlerini minimize eder. Test seti üzerindeki değerlendirme ise, modelin yeni uçuş koşullarında ne kadar iyi genelleme yaptığının önyargısız bir şekilde ölçülmesini sağlar. Performans, standart tahmin doğruluk ölçümleri ile ölçülmektedir. Bu araştırma, modern derin öğrenme mimarilerinin İHA enerji yönetimi için nasıl kullanılabileceğine dair daha iyi bir anlayışla sonuçlanmaktadır. Tez, Transformer tabanlı bir modelin (Informer), bir dronun uçuş sırasında güç tüketimini yüksek doğrulukla başarılı bir şekilde tahmin edebileceğini göstermiştir. Zengin bir İHA uçuş veri seti üzerinde yapılan kapsamlı deneyler sayesinde, Informer modeli, geleneksel yöntemlerle yakalanması zor olan uçuş parametreleri ile güç kullanımı arasındaki karmaşık ilişkileri öğrenmiştir. Ortaya çıkan sistem, bir uçuş süresi boyunca gelecekteki güç gereksinimlerini tahmin edebilen bir tahminleme sistemidir; bu da dron operasyonları için daha bilinçli karar verme olanağı sağlar. Örneğin, güvenilir güç tüketimi tahminleri sayesinde operatörler veya otonom uçuş planlayıcıları, pil değişimlerini veya şarjları proaktif olarak planlayabilir, uçuş yollarını veya hızlarını enerji tasarrufu yapmak için ayarlayabilir ve dronların güvenli geri dönüş için yeterli güç rezervine sahip olmasını sağlayabilir. Sonuç olarak, tez, Informer modelinin İHA alanındaki pratik bir mühendislik problemine uygulanmasına dair önemli bir vaka çalışması sunmaktadır. Informer'ın transformatör tabanlı dizi modelleme güçlerinden ve kapsamlı İHA veri setinden yararlanarak, bu çalışma, çeşitli operasyonel koşullar altında İHA'nın güç kullanımını tahmin etmek ve öngörmek için uçtan uca bir öğrenme yaklaşımı sağlar. Çok değişkenli zaman serisi tahmininin Transformer'lar kullanılarak yalnızca mümkün değil, aynı zamanda dron enerji kullanımını tahmin etmek için avantajlı olduğunu da göstermektedir. Bu çalışma, gelecekteki geliştirmeler için de önemli bir temel sağlar. Örneğin, gerçek zamanlı tahminlerin İHA kontrol sistemlerine entegre edilmesi veya modele pil sağlığı, harici hava tahminleri gibi ek faktörlerin dahil edilmesine olanak tanır. Güç tüketimi tahmini doğruluğunu artırarak, bu araştırma daha güvenli ve daha verimli İHA operasyonlarının yolunu açmaya yardımcı olur ve dronların daha akıllıca uçmasına ve sınırlı enerji rezervlerini daha iyi kullanmasına olanak tanır.

Özet (Çeviri)

Unmanned Aerial Vehicles (UAVs), commonly known as drones, are increasingly used in applications ranging from package delivery to surveillance. One critical challenge limiting wider adoption of UAVs is their energy constraint, small onboard batteries severely restrict flight duration and range. UAV power consumption is influenced by numerous dynamic factors, including weather conditions, payload weight, flight speed, and trajectory path. These environmental and operational uncertainties lead to significant variability in energy usage, underscoring the need for reliable power consumption prediction models. Accurate forecasts of a drone's power requirements are essential to ensure safe operations, prevent mid-flight battery depletion, and optimize mission planning. Studies highlight that improving prediction accuracy can help extend flight times, manage payloads effectively, and implement contingency measures to enhance overall UAV reliability. In light of these needs, recent research has turned to advanced machine learning techniques for modelling UAV energy consumption. Integrating deep learning with UAV energy management allows data-driven prediction of power usage, which can optimize resource allocation and improve system performance. Power consumption forecasting has emerged as a particularly crucial area of study, as it directly affects UAV operational efficiency. This thesis addresses the challenge by exploring a state-of-the-art transformer-based architecture, known as the Informer model, to estimate UAV power consumption. The Informer model is a recent development in time-series forecasting that is designed to handle long sequences efficiently. By applying this model to a comprehensive UAV flight dataset, the study aims to capture the complex relationships between flight conditions and power use, ultimately improving the accuracy of power consumption predictions for drones. A key trend in recent literature is the introduction of attention mechanisms and Transformer-based models to UAV energy prediction. Attention allows models to weight the influence of different time steps or features, which is valuable given the multivariate nature of drone flight data (speed, altitude, wind, etc.). In fact, studies have shown that adding self-attention to sequence models (such as augmenting GRUs with self-attention) yields noticeably better performance in power consumption forecasting. By focusing on critical input features during a flight, attention-based models can more accurately predict power usage fluctuations caused by factors like sudden wind gusts or changes in payload. These promising results set the stage for applying Transformer architectures (originally developed for natural language processing) to UAV time-series data. The Transformer model's capacity to capture long-range dependencies without recency bias makes it attractive for this domain. However, a vanilla Transformer can be computationally expensive for long flight sequences due to its quadratic complexity in sequence length. To overcome this, researchers developed the Informer architecture, which specifically targets long sequence forecasting with improved efficiency. Early evaluations of the Informer on benchmark datasets showed that it significantly outperforms previous forecasting methods while handling long sequences with reduced computational cost. These developments in the literature provide a strong foundation and motivation for the thesis to implement the Informer model for UAV power consumption estimation. The thesis adopts the Informer model, a Transformer-based neural network architecture, to perform multivariate time-series forecasting of UAV power consumption, by using a dataset which is a publicly available flight log repository collected via real time experiments. The choice of Informer is motivated by its ability to handle long sequences of data more efficiently than a standard Transformer. In essence, Informer is an encoder–decoder model tailored for long-term forecasting. the encoder processes a lengthy input sequence of historical data, and the decoder produces predictions for a future sequence (the target horizon). For UAV power estimation, this means the model takes a window of past flight telemetry (multiple time steps of sensor readings and power usage) and predicts the drone's power consumption over upcoming time steps. In applying the Informer model to the UAV dataset, the thesis follows a typical model development and evaluation pipeline. The cleaned and preprocessed data (with selected features) are divided into training and testing subsets, ensuring that the model learns from one portion of the flights and is validated on separate flights it has not seen. The multivariate time series from the training set are used to fit the Informer's parameters; this involves adjusting the model's internal weights so that its output power consumption sequence closely matches the actual recorded power usage. he training optimization minimizes error metrics such as Mean Squared Error (MSE) between the predicted and actual power values. Importantly, the evaluation on the test set provides an unbiased assessment of how well the model generalizes to new flight conditions. Performance is measured with standard forecasting accuracy metric, mean squared error. This research culminates in a better understanding of how modern deep learning architectures can be harnessed for UAV energy management. The thesis showed that a transformer-based model (Informer) can successfully estimate a drone's power consumption in flight with a high degree of accuracy. Through comprehensive experiments on a rich UAV flight dataset, the Informer model learned complex relationships between flight parameters and power usage that would be difficult to capture with conventional methods. The result is a forecasting system capable of predicting future power requirements over the course of a flight, enabling more informed decision-making for drone operations. For instance, with reliable power consumption predictions, operators or autonomous flight planners can schedule battery swaps or recharges proactively, adjust flight paths or speeds to conserve energy, and ensure that drones maintain sufficient power reserves for safe return-to-base. In conclusion, the thesis contributes an important case study of applying the Informer model to a practical engineering problem in the UAV domain. It demonstrates that multivariate time-series forecasting using transformers is not only feasible but advantageous for predicting drone energy usage. The work provides a foundation for future enhancements, such as integrating real-time prediction into UAV control systems or extending the model to include additional factors (like battery health or external weather forecasts). By improving the accuracy of power consumption estimation, this research helps pave the way for safer and more efficient UAV operations, allowing drones to fly smarter and make better use of their limited energy reserves.

Benzer Tezler

  1. Tez No

    955270

    Vision transformer-based physics informed CFD prediction of axial fans with self-supervised contrastive learning for enhanced geometric sensitivity

    Eksenel fanlarda geometrik farklılıkların yakalanmasına yönelik kontrastif öğrenme destekli, fizik bilinçli vısıon transformer tabanlı CFD tahmini

    MEHMET FATİH REYHAN

    Yüksek Lisans

    İngilizce

    İngilizce

    2025

    Uçak Mühendisliğiİstanbul Teknik Üniversitesi

    Uçak ve Uzay Mühendisliği Ana Bilim Dalı

    DOÇ. DR. BAHA ZAFER

  2. Tez No

    948058

    Üniversitelerin idari süreçlerini iyileştirmek için akıllı konuşma aracı geliştirme: Sakarya Üniversitesi vaka çalışması

    Developing an intelligent conversational agent to improve administrative processes at universities: A case study of Sakarya University

    KANAAN AL JAF

    Doktora

    Türkçe

    Türkçe

    2025

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. CEMİL ÖZ

  3. Tez No

    947702

    Robust keyword spotting in noisy environments based on deep learning

    Derin öğrenmeye dayalı gürültülü ortamlarda dayanıklı anahtar kelı̇me tespı̇tı̇

    FATİH MERCAN

    Yüksek Lisans

    İngilizce

    İngilizce

    2025

    Elektrik ve Elektronik MühendisliğiBaşkent Üniversitesi

    Elektrik-Elektronik Eğitimi Ana Bilim Dalı

    PROF. DR. HAMİT ERDEM

  4. Tez No

    946030

    Multimodal medical visual question answering: Knowledge spaces and semantic segmentation for improved and explainable AI

    Çok-kipli tıbbi görsel soru cevaplama: Bilgi uzayları ve anlamsal bölütleme ile gelişmiş ve açıklanabilir yapay zekâ

    ZİYA ATA YAZICI

    Yüksek Lisans

    İngilizce

    İngilizce

    2025

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. HAZIM KEMAL EKENEL

  5. Tez No

    928163

    Türkçe E-ticaret yorumlarının çok etiketli analizi için derin öğrenme modellerinin uygulanması

    Applying deep learning models for multi-label analysis of Turkish E-commerce comments

    ABDULKADİR ŞEN

    Yüksek Lisans

    Türkçe

    Türkçe

    2025

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKonya Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DR. ÖĞR. ÜYESİ FATMA ZEHRA SOLAK

Geri Dön