A concept-aware explainability method for convolutional neural networks
Evrişimsel sinir ağlarinin açiklanabilirliği için kavram bilinçli bir yöntem
- Tez No: 933031
- Danışmanlar: PROF. DR. NAFİZ ARICA
- Tez Türü: Doktora
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2025
- Dil: İngilizce
- Üniversite: Bahçeşehir Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Yapay Zeka Bilim Dalı
- Sayfa Sayısı: 161
Özet
Evrişimsel Sinir Ağları (CNN) çeşitli Yapay Görü uygulamalarında klasik modellerden daha iyi performans gösterseler de, anlaşılabilirlik eksikliği güven sorunları yaratmaktadır. Bu nedenle, açıklanabilirliklerini geliştirmek için yapılan araştırmalara artan bir ihtiyaç duyulmaktadır. Bu tez, önceden eğitilmiş CNN modelleri için açıklama sağlama amaçlı Kavram Bilinçli Açıklanabilirlik (CAE) adı verilen kavram temelli bir yöntem önermektedir. Evrişimli filtreler ile önceden tanımlanmış bir dizi kavram arasındaki ilişkiyi ölçmek için Algı Puanı Ortalaması isimli yeni bir metrik tanımlanmaktadır. Bu metrikle belirlenen Kavram Bilinçli Filtreler (CAF) ve Filtre Etkinleştirici Kavramlar (FAC) listeleri çıkarım esnasında açıklanabilirlik raporlarını oluşturmada kullanılmaktadır. CAE yöntemi, CAF ve FAC listelerindeki filtre-kavram ilişkileriyle model davranışını analiz etme, model kararını oluşturulan raporlardaki kavramlarla açıklama veya modelleri belirli bir kavramı veya genel olarak ne kadar iyi açıklayabildiklerine göre karşılaştırma gibi alanlarda kullanılabilinir. Bu tez kapsamında, Places365-Standard ve ImageNet veri kümeleri ile eğitilmiş ResNet18 ve VGG16 modelleri kullanılarak yukarıda belirtilen alanların her biri irdelenmiştir. Bu modeller farklı kavram veya kavram grupları karşısındaki homojen davranabilme ve kavramsal benzerlikleri belirleyeme becerileri üzerinden analiz edilmiştir. Oluşturulan açıklama raporları ışığında doğru ve yanlış kararları verirken kullandıkları mantık incelenmiştir. Son olarak, açıklanabilirlik özellikleri raporlardaki kavramların doğruluk ve kesinlik oranları ya da belli kavramlara özel davranışları baz alınarak karşılaştırılmıştır.
Özet (Çeviri)
Although the Convolutional Neural Networks (CNNs) outperform the classical models in a wide range of Machine Vision applications, their lack of comprehensibility in reasoning generates trust issues. Consequently, there is a growing need for research to improve their explainability. This thesis proposes a concept-based method, called Concept-Aware Explainability (CAE) to provide an explanation for pre-trained CNN models. A new measure, called Detection Score Mean is introduced to quantify the relationship between the convolutional filters and a set of pre-defined concepts. Based on this metric, the lists of Concept-Aware Filters (CAF) and Filter-Activating Concepts (FAC) are defined. These lists are used as reference in inference time to generate explainability reports. The CAE method can help in analyzing the model behavior with the filter-concept associations in the CAF and FAC lists, explaining the model decision with the concepts in the generated reports, or comparing the models according to how explainable they can be in the presence of a specific concept, or overall. This thesis scrutinizes each area by using ResNet18 and VGG16 models, pre-trained on Places365-Standard and ImageNet datasets. These models are analyzed in aspects like how homogeneous they are against various concepts or concept groups and how efficient they can be in detecting conceptual similarities. Their rationale in their correct and wrong predictions is investigated by generating explanation reports. Finally, their explainability is compared by referring to the accuracy and the recall of concepts in the report or their behavior against specific concepts.
Benzer Tezler
- Ordu ili (Türkiye) tatlısu Gammaridea (Crustacea, Amphipoda) faunası üzerine bir araştırma
Study on freshwater Gammari̇dea (Crustacea, Amphipoda) fauna of Ordu (Turkey)
MEHMET EKİNCİ
Yüksek Lisans
Türkçe
2015
Balıkçılık TeknolojisiOrdu ÜniversitesiBalıkçılık Teknolojisi Mühendisliği Ana Bilim Dalı
YRD. DOÇ. DR. ALİ MİROĞLU
- Enerji ihtiyacının karşılanmasında doğalgaz ve rüzgâr kaynaklı enerji çevrim santralleri; yatımlar üzerine stratejik bir analiz
Natural gas and wind based cycle plant in supplying the needs of energy reguirement; a strategic analysis on investments
GÜVEN KARAMAN
Yüksek Lisans
Türkçe
2015
İşletmeOrdu ÜniversitesiYenilenebilir Enerji Ana Bilim Dalı
YRD. DOÇ. DR. KADİR AKSAY
- Ordu ekolojik koşullarında bazı kuru fasulye (Phaseolus vulgaris L.) çeşit ve genotiplerinin verim, verim öğeleri ile tohum ve teknolojik özelliklerinin belirlenmesi
Determination of yield and components with seed and technological characteristics of some dry beans (Phaseolus vulgaris L.) varieties and genotypes on in ecological conditions of Ordu
YAŞAR ÖZBEKMEZ
- Yaş ve kuru çayda, verim ve önemli kalite parametrelerine sarı çay akarı (Polyphagotarsonemus latus (Banks, 1904)) (Prostigmata: Tarsonemidae)'nın etkisi
Effect of yellow tea mite (Polyphagotarsonemus latus (Banks, 1904))(Prostigmata: Tarsonemidae) on yield and important quality parameters of fresh and dried tea
BİRSEN AŞIK ÇUHADAR
Yüksek Lisans
Türkçe
2015
ZiraatOrdu ÜniversitesiBahçe Bitkileri Ana Bilim Dalı
PROF. DR. SAİM ZEKİ BOSTAN
YRD. DOÇ. DR. RANA AKYAZI
- Doğu Karadeniz Bölgesi'ndeki amatör balıkçılığın sosyo ekonomik analizi
Socio-economic analysis of amateur fishing in the Eastern Black Sea region
MUHAMMET KARAPİÇAK
Yüksek Lisans
Türkçe
2015
Balıkçılık TeknolojisiOrdu ÜniversitesiBalıkçılık Teknolojisi Mühendisliği Ana Bilim Dalı
DOÇ. DR. MEHMET AYDIN