Analysis of hyperspectral images with deep learning methods
Derin öğrenme yöntemleriyle hiperspektral görüntülerin analizi
- Tez No: 791326
- Danışmanlar: PROF. DR. ZÜMRAY ÖLMEZ
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Mühendislik Bilimleri, Computer Engineering and Computer Science and Control, Engineering Sciences
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2022
- Dil: İngilizce
- Üniversite: İstanbul Teknik Üniversitesi
- Enstitü: Bilişim Enstitüsü
- Ana Bilim Dalı: İletişim Sistemleri Ana Bilim Dalı
- Bilim Dalı: Uydu Haberleşmesi ve Uzaktan Algılama Bilim Dalı
- Sayfa Sayısı: 158
Özet
Teknolojinin gelişmesi birçok alanda olduğu gibi sensör, görüntüleme, algılama alanlarındaki ilerlemeyi ve gelişmeyi de arttırmıştır. Bu sayede uzaktan algılama sistemleri ile birlikte ilgilenilen yüzey ve alan hakkında daha fazla bilgi edinilmesi mümkün hale gelmiştir. Bir yandan da derin öğrenmenin her alanda gün geçtikçe artarak kullanımı uzaktan algılama sistemleri ile elde edilen görüntülerin analizinde de mevcuttur. Derin öğrenme uygulamaları sayesinde hem daha hızlı sonuçların elde edilmesi hem de insan faktörünün minimize edilmesi mümkün hale gelmiştir. İçerdiği yüzden fazla dar banttan meydana gelen uzaktan algılanmış görüntü anlamına gelen hiperspektral görüntüler birçok alanda kullanılmaktadır. Özellikle tarım, şehir planlama, askeri, sağlık gibi alanlarda sıklıkla tercih edilmektedir. Ancak yüzlerce banttan meydana gelen hiperspektral görüntülerin analiz edilmesi ve uygulamalarda kullanılması kolay bir işlem değildir. Bu sebeple analiz işlemlerini kolaylaştırmak için derin öğrenme uygulamalarından sıklıkla faydalanılır. Hiperspektral görüntüler analiz edildikten sonra genellikle sınıflandırma, kümeleme gibi uygulamalarda tercih edilir. Literatürdeki hiperspektral görüntüler üzerinde yapılan çalışmalar incelendiğinde genellikle hiperspektral görüntülerin sınıflandırması temel araştırma ve çalışma konusu olarak tespit edilmiştir. Hiperspektral görüntüler alanında yapılan çalışmalar ilk olarak klasik makine öğrenme metotları kullanılarak yapılmıştır. Özellikle makine öğrenmesi kavramının önemli kavramlarından olan destek vektör makineleri yöntemi kullanılarak çalışmalar gerçekleştirilmiştir. Destek vektör makineleri yöntemi dışında bir başka makine öğrenmesi yöntemi olan rastgele orman yöntemi de tercih edilmiştir. Daha sonraki yıllarda yapay sinir ağı ve bu buna bağlı olarak derin öğrenme kavramının gelişmesi ile birlikte, derin sinir ağları hiperspektral görüntüler üzerinde de uygulanmıştır. Derin öğrenme yöntemleri kullanılarak hiperspektral görüntüler üzerinde yapılan çalışmalar ile birlikte elde edilen başarımlar daha yüksek seviyede olmuştur. Bu tez çalışması kapsamında da hiperspektral görüntülerin, derin öğrenme metotlarından bir tanesi olan evrişimli sinir ağları içeren modeller ile analiz edilmesi hedeflenmiştir. Bu hedef doğrultusunda ve literatüre katkıda bulunmak için bu tez çalışması geniş bir çerçevede gerçekleştirilmiştir. Literatürde yapılan çalışmalarda kullanılan evrişimli sinir ağ modelleri genellikle tek bir biçimde gerçekleştirilirken bu tez çalışmasında ise kullanılan evrişimli sinir ağları içeren ağ modelleri farklı şekillerde tercih edilmiştir. Evrişimli sinir ağlarında bulunan evrişim katmanının farklı özelliklere sahip olan biçimleri kullanılarak yapılan çalışmalar sonucu elde edilen başarım sonuçları geniş bir karşılaştırma imkânı sağlamıştır. Bütün çalışmalarda Python programlama dilinin en son versiyonu olan 3. Sürümü tercih edilmiştir. Derin sinir ağ modellerini oluştururken Keras kütüphanesinde bulunan fonksiyonlar tercih edilmiştir. Çalışmalar önce kişisel kullanım amaçlı bir laptopta yapılmış ancak burada performansın düşük olması sebebiyle başka bir ortam tercih edilmiştir. Google firmasının araştırmacılar için daha iyi bir performans sunan ve internet üzerinden kullanım imkânı olan Colab uygulaması tercih edilmiştir. Colab ortamında gerçekleştirilen uygulamalar daha iyi bir performans ile çalışmasına rağmen ücretsiz kaynakların kısıtlanması sebebiyle birden fazla deneyin gerçekleştirilmesi mümkün olmamıştır. Son olarak İstanbul Teknik Üniversite bünyesinde bulunan Ulusal Yüksek Başarımlı Hesaplama Uygulama ve Araştırma Merkezi'nde (UHeM) bulunan sunuculardaki donanımlar tercih edilmiştir. UHeM'deki sunucularında deneyler gerçekleştirilirken birden fazla uygulanarak elde edilen sonuçlar teyit edilmiştir. Deneylerin bazıları ellişer bazıları ise yirmi beşer defa tekrar edilmiştir. Hem literatürdeki çalışmalar ile karşılaştırma yapabilmek hem de literatüre katkıda bulunabilmek için en yaygın kullanılan üç veri kümesi olan Indian Pines, Salinas ve Pavia Üniversitesi veri kümeleri bu tez çalışmasında tercih edilmiştir. Evrişimli sinir ağ modelleri dört farklı biçimde gerçekleştirilerek daha fazla katkı sunabilmek hedeflenmiştir. Sırayla 1, 2 ve 3 boyutlu evrişim katmanı içeren ağ modellerinden sonra 2 ve 3 boyutlu evrişim katmanı içeren hibrit ağ modeli kullanılarak sınıflandırma başarım sonuçları elde edilmiştir. Bu tez kapsamında sınıflandırma çalışmaları gerçekleştirilirken gerek veri kümelerinin farklı oranlarda eğitim ve test kümelerine ayrılması gerekse de farklı pencere boyutu değerleri ile birlikte deneyler gerçekleştirilerek geniş kapsamlı bir çalışma yapılmıştır. Her bir veri kümesi test, eğitim ve doğruluk kümeleri şeklinde ayrım yapılarak çalışmalarda kullanılmıştır. Deneylerde tercih edilen veri kümeleri test kümesine ayrılırken bütün verinin %40'ı, %60'ı ve %80'i test kümesi olacak biçimde ayırılarak test ve eğitim kümesinin büyüklüğünün sonuca olan etkisi de bu tez kapsamında araştırılmıştır. Farklı evrişimli sinir ağ modelleri ve veri kümesinin boyutunun sonuca olan etkisi dışında pencere boyutunun da etkisi sınıflandırma sonuçlarında incelenmiştir. Pencere boyutunun sonuca olan etkisini incelemek amacıyla da 6 farklı pencere boyutu tercih edilmiştir. 5×5, 7×7, 9×9, 11×11, 13×13, 15×15 ve 17×17 boyutlarında pencere ayarlamaları yapılarak bu tez çalışmasındaki araştırmaların kapsamı genişletilmiştir. Hiperspektral görüntülerin sınıflandırılmasında boyut indirgemenin öneminin de açık olduğu bu tez çalışması kapsamında hem araştırma yaparken hem de deneyler gerçekleştirilirken teyit edilmiştir. Özellikle hiperspektral görüntü üzerinde hiçbir şekilde boyut azaltma yapmadan hiperspektral görüntüye ait tüm veri kümesi kullanıldığı zaman, Google Colab uygulaması üzerindeki işlem süresi bir saati geçmesine rağmen eğitim sürecinin bile tamamlanmadığı görülmüştür. Bu sebeple hiperspektral görüntüye ait veri kümesi üzerinde boyut azaltma yöntemleri denenmiştir. İlk başta Google Colab uygulaması üzerinde deneyler gerçekleştirilirken hem temel bileşenler analizi (PCA) hem de artırımlı PCA (Incremental PCA) metotları denenmiştir. Ancak PCA metodunun daha iyi sınıflandırma sonuçları ortaya koyduğundan dolayı UHeM bünyesinde gerçekleştirilen deneylerde ise sadece PCA yöntemi tercih edilmiştir. Ancak ekstra bir çıkarım olması açısından UHeM bünyesinde deneyler gerçekleştirilirken hızlı bağımsız bileşen analizi ICA (Fast ICA) boyut azaltma yöntemi de bazı deneylerde denenmiştir. Bu açıdan da bu tezin çalışmaları farklı bir alanda daha gerçekleştirilmiştir. En yüksek başarım sonuçları incelendiğinde üç veri kümesi üzerinde de genellikle 3D evrişim katmanı içeren evrişimli sinir ağ modelinin daha iyi bir performansa sahip olduğu görülmüştür. Buna göre Indian Pines veri kümesi üzerinde %99,76 genel doğruluk ve %99,81 ortalama doğruluk değerleri elde edilmiştir. Daha sonrasında Salinas veri kümesi üzerinde genel doğruluk ve ortalama doğruluk değerleri ise sırasıyla %99,88 ve %99,92 olarak bulunmuştur. Bir diğer veri kümesi olan Pavia Üniversitesi veri kümesinde genel doğruluk değeri %99,92 ve ortalama doğruluk değeri ise %99,87 olarak elde edilmiştir. Buna göre hem deney süreleri bakımından hem de sınıflandırma sonuçları bakımında 3D evrişim katmanı içeren modelin daha uygun olduğu görülmüştür. Ancak uygulama süresinin geri planda tutulduğu uygulamalarda hibrit modelin daha iyi sınıflandırma sonuçları elde edebildiği sonucu da unutulmamalıdır. Bu tez çalışması hiperspektral görüntülerin derin öğrenme metotlarından evrişimli sinir ağ yöntemi kullanarak sınıflandırılması kapsamında gerçekleştirilmiştir. Özellikle gelecekte bu alanda çalışma ve araştırma yapacaklar olan araştırmacılar için içerdiği bilgiler ve çalışma sonuçları ile birlikte geniş kapsamlı bir çalışma olması hedeflenmiştir. Ayrıca literatürdeki çalışmalara göre birçok alanda daha başarılı sonuçlar elde etmesi sebebiyle kullanılan yöntemlerin uygunluğu da sonuçları ile birlikte sunulmuştur. Gelecekteki yapılacak çalışmalarda ise evrişimli sinir ağ modellerindeki parametreler değiştirilerek farklı sınıflandırma sonuçlarının elde edilmesi mümkündür. Bunun dışında literatürdeki farklı boyut azaltma yöntemleri kullanarak da sınıflandırma sonuçları üzerinde farklı boyut azaltma yöntemlerinin etkisi ölçülebilir. Birçok farklı uygulamaya açık olması nedeniyle de hem hiperspektral görüntüler hem de derin öğrenme alanında yapılacak çalışmaların sonlanmayacağı açıktır.
Özet (Çeviri)
The development of technology has increased the progress and development in the fields of sensors, imaging, and detection, as in many areas. In this way, it has become possible to obtain more information about the surface and the area of interest together with remote sensing systems. On the other hand, the increasing use of deep learning in every field is also available to analyse of images obtained by remote sensing systems. Thanks to deep learning applications, it has become possible to obtain faster results and minimize the human factor. Hyperspectral images, which means remotely sensed images consisting of more than a hundred narrow bands, are used in many areas. It is frequently preferred, especially in fields such as agriculture, urban planning, military, and health. However, analyzing hyperspectral images consisting of hundreds of bands and using them in applications is not an easy process. For this reason, deep learning applications are often used to facilitate analysis processes. After analyzing hyperspectral images, they are generally preferred in applications such as classification and clustering. When the studies on hyperspectral images in the literature were examined, the classification of hyperspectral images was generally determined as the main research and study subject. The studies in the field of hyperspectral images were first carried out using classical machine learning methods. In particular, studies have been carried out using the support vector machine method, which is one of the important concepts of machine learning. In addition to the support vector machines method, the random forest method, another machine learning method, was also preferred. In later years, along with the developments in the artificial neural network, the concept of deep learning has emerged, and deep neural networks were also applied to hyperspectral images. The results obtained together with the studies conducted on hyperspectral images using deep learning methods were at a higher level. In the scope of this thesis, it was aimed to analyze hyperspectral images with models containing convolutional neural networks, which is one of the deep learning methods. This thesis study was carried out in a wide framework in line with this goal and to contribute to the literature. While the convolutional neural network models used in the studies in the literature were generally implemented in a single format, the network models containing convolutional neural networks used in this thesis were preferred in different ways. The performance results obtained from the studies using the forms of the convolution layer with different properties in convolutional neural networks provided a wide comparison opportunity. To compare with the studies in the literature and to contribute to the literature, the three most commonly used datasets, Indian Pines, Salinas, and Pavia University datasets, were preferred in this thesis study. Convolutional neural network models were implemented in four different ways and aimed to contribute more. After xxvii obtaining results with network models containing 1, 2, and 3-dimensional convolution layers, respectively, classification performance results were obtained using a hybrid network model containing 2 and 3-dimensional convolution layers. In addition, a comprehensive study was carried out by dividing the data sets into training and test sets at different rates and by performing experiments with different window size values. The consistency of the obtained results was also confirmed by conducting more than one experiment.
Benzer Tezler
- Hyperspectral image classification using an active deep learning framework including edge preserving filters
Hiperspektral görüntülerin kenar koruyucu filtreler içeren bir aktif derin öğrenme çerçevesiyle sınıflandırılması
ZAINAB DHEYAA MOHAMMED AL-SAMMARRAIE
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolYıldız Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. ALİ CAN KARACA
- Hiperspektral görüntülerde derin öğrenme yaklaşımının sınıflandırma başarımı üzerine etkisi
The effect of deep learning approach on classification performance in hyperspectral images
GİZEM ORTAÇ
Yüksek Lisans
Türkçe
2019
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBursa Uludağ ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
YRD. DOÇ. DR. GIYASETTİN ÖZCAN
- Hiperspektral görüntülerde yarı güdümlü öğrenme teknikleri
Semi supervised learning techniques on hyperspectral images
MUHAMMET SAİD AYDEMİR
Doktora
Türkçe
2019
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolYıldız Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. GÖKHAN BİLGİN
- Hiperspektral termal görüntülerde hedef tespiti
Target detection in hyperspectral thermal images
METEHAN YALÇIN
Yüksek Lisans
Türkçe
2023
Elektrik ve Elektronik MühendisliğiHacettepe ÜniversitesiElektrik ve Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. SENİHA ESEN YÜKSEL ERDEM
DOÇ. DR. ALPER KOZ
- Derin öğrenme yöntemleri kullanarak hiperspektral imgelerin sınıflandırılmasına yönelik yeni yaklaşımlar
New approaches for hyperspectral image classification using deep learning
HASAN BADEM
Doktora
Türkçe
2017
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolErciyes ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. ALPER BAŞTÜRK