Derivative free algorithms for large scale non-smooth optimization and their applications
Türevi kullanmayan optimizasyon yöntemlerinin, çok boyutlu türevi olmayan optimizasyon problemlerine uygulanması
- Tez No: 338359
- Danışmanlar: PROF. DR. BÜLENT KARASÖZEN, DOÇ. DR. ADİL BAGİROV
- Tez Türü: Doktora
- Konular: Matematik, Mathematics
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2013
- Dil: İngilizce
- Üniversite: Orta Doğu Teknik Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Matematik Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 104
Özet
Bu tezin amacı türevi olmayan optimizasyon problemlerini çözmek için yöntem geliştirmektir ve türevi olmayan optimizasyon problemleri iki bölümde incelenmiştir; dışbükey ve dışbükey olmayan optimizasyon problemleri. Bu tezde bu iki tip problem için yöntemler geliştirilmiştir.İlk olarak türevi olmayan kısıtsız dışbükey optimizasyon problemler için kodiferansiyel kavramı kullanarak üç farklı yöntem geliştirilmiştir. Bilindiği gibi, aynı tip optimizasyon problemlerini çözmek için geliştirilen algoritmalar, türev yerine kullanılan kavram, durma kriterleri ve azalma yönü hesaplarına göre farklılaşmaktadırlar. Bu tezde geliştirilen bu üc¸ metotta ise türev yerine kodiferansiyel kullanılmıştır. Kodiferansiyelin yapısı gereği durma kriterleri bu üc¸ metotta da aynıdır. Diğer taraftan, azalma yönü hesaplanmasına baktığımızda metotlar farklılıklar göstermektedir. Bu farklılıklar şu şekilde sıralanmaktadır. Yöntemlerden birincisinde azalma yönü kodiferansiyelin sadece bazı elemanlarını kullanarak hesaplanmaktadır. İkincisinde ise, fonksiyon ve gradient hesaplamalarının sayısını azaltmakiçin bir önceki basamakta elde edilen kodiferansiyel değerleri kullanılmıştır. Son metotta ise azalma yönü her iterasyonda sabit ve belli sayıda kodiferansiyelleri kullanarak hesaplanmaktadır. Bunun yanında, geliştirilen yöntemlerin yakınsaklık analizleri yapılmıştır. Bu yöntemler literatürdebilinen önemli test problemlerine uygulanmış ve elde edilen sayısal sonuçlar performans grafikleri ile gösterilmiştir. Bu grafikler, bilinen alt-gradient ve demet yöntemleriyle de elde edilen performans grafikleriyle karşılaştırılmıştır ve geliştirmiş olduğumuz metotların daha iyi sonuç verdiği gözlemlenmiştir. Bunların yanında, yukarıda bahsi geçen ilk metodun yapay değişkenler kullanarak uyarlanan yeni hali, doğrusal kısıtlı dışbükey optimizasyon problemlerine uygulanmıştır. Uygulama olarak üç test problemi alınmış ve sayısal sonuçlar tablolar kullanılarak gösterilmiştir.Son olarak, dışbükey olmayan optimizasyon problemleri için yöntem geliştirilmiştir. ?Quasisecant? kavramı kullanılarak geliştirilen bu yöntemde, azalma yönü hesabı için bir alt-gradient yöntemi kullanılarak doğrusal eşitsizlik sistemi çözülmüştür. Geliştirilen bu yöntemin yakınsaklığı incelenmiş,bilinen bazı önemli test problemleri kullanılarak sayısal hesaplamalar yapılmış ve bu sonuçlar bir alt-gradient yöntemiyle kıyaslanarak bir tabloda sunulmuştur.
Özet (Çeviri)
In this thesis, various numerical methods are developed to solve nonsmooth and in particular, nonconvex optimization problems. More specifically, three numerical algorithms are developed for solving nonsmooth convex optimization problems and one algorithm is proposed to solve nonsmooth noncon- vex optimization problems.In general, main differences between algorithms of smooth optimization are in the calculation of search directions, line searches for finding step-sizes and stopping criteria. However, in nonsmooth optimiza- tion there is one additional difference between algorithms. These algorithms may use different gener- alizations of the gradient. In order to develop algorithms for solving nonsmooth convex optimization problems we use the concept of codifferential. Although there exists the codifferential calculus, the calculation of the whole codifferential is not an easy task. Therefore, in the first numerical method, only a few elements of the codifferential are used to calculate search directions. In order to reduce the number of codifferential evaluations, in the second method elements of the codifferential calculated in previous iterations are used to calculate search directions.In both the first and second methods the problem of calculation of search directions is reduced to the solution of a certain quadratic programming problem. The size of this problem can increase signifi- cantly as the number of variables increases. In order to avoid this problem in the third method, called the aggregate codifferential method, the number of elements of the codifferential used to find search directions is fixed. Such an approach allows one to significantly reduce the complexity of codifferential methods and to make them applicable for solving large scale problems of nonsmooth optimization.These methods are applied to some well-known nonsmooth optimization test problems, such as, min-max and general type nonsmooth optimization problems. The obtained numerical results are visualized using performance profiles. In addition, the validation of these methods is made by comparing them with the subgradient and bundle methods using results of numerical experiments. The convergence of methods is analyzed. Finally, the first method is extended to minimize nonsmooth convex functions subject to linear inequalities using slack variables.The notion of quasisecant is used to design an algorithm for solving nonsmooth nonconvex unconstrained optimization problems. In this method, to find descent direction the subgradient algorithm is applied for the solution of a set of linear inequalities. The convergence of the proposed method is analyzed, and the numerical experiments are carried out using general type nonsmooth optimization test problems. To validate this method, the results are compared with those by the subgradient method.
Benzer Tezler
- Elektrik motoru seçim kriterleri ve kontrol organına bir limiter konulmuş motorun optimal parametrelerinin simpleks metodu ile tayini
Başlık çevirisi yok
VOLKAN ÇAKMAKÇI
- Demiryolu ağında trafik sayımlarından O-D matrisi tahmini
Başlık çevirisi yok
ZEYNEP AĞCI
Yüksek Lisans
Türkçe
1998
İnşaat Mühendisliğiİstanbul Teknik ÜniversitesiUlaştırma Ana Bilim Dalı
PROF. DR. HALUK GERÇEK
- Sayısal ortamda kartografik genelleştirme
Cartographic generalization in digital environment
TÜRKAY GÖKGÖZ
- Derivative free multilevel optimization methods
Türevsiz çok katmanlı eniyileme yöntemleri
BENGİSEN PEKMEN
Yüksek Lisans
İngilizce
2009
MatematikOrta Doğu Teknik ÜniversitesiBilimsel Hesaplama Ana Bilim Dalı
PROF. DR. BÜLENT KARASÖZEN
YRD. DOÇ. DR. ÖMÜR UĞUR
- Optical metasurfaces
Başlık çevirisi yok
FATİH BALLI
Doktora
İngilizce
2021
Elektrik ve Elektronik MühendisliğiUniversity of KentuckyDR. JOSEPH STRALEY
DR. JEFFREY TODD HASTİNGS