Geri Dön

Sunucusuz mimarilerde maliyet optimizasyonu için aws lambda üzerine hibrit bir yaklaşım

A hybrid approach on aws lambda for cost optimization in serverless architecture

PDF İndir

  1. Tez No: 979151
  2. Yazar: SEDAT DEMİRKOL
  3. Danışmanlar: DR. ÖĞR. ÜYESİ FERDİ SARAÇ
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2025
  8. Dil: Türkçe
  9. Üniversite: Süleyman Demirel Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: Belirtilmemiş.

Özet

Sunucusuz mimarilerde, makine öğrenimi çıkarımını hızlandıran ve operasyonel maliyetleri düşüren çeşitli optimizasyon teknikleri geliştirilmiştir. Bu bağlamda, toplu işlem yaklaşımı özellikle etkili bir yaklaşım olarak ortaya çıkmıştır. ResNet-v2, ResNet-18, ResNet-50, Inception-v4 ve MoBiNet gibi bilgisayarlı görme modelleri üzerine yapılan deneysel çalışmalar, toplu iş boyutu ve zaman aşımı eşiklerinin dinamik olarak ayarlanmasıyla maliyetlerin yaklaşık \%50 oranında ve kuyruk gecikmelerinin önemli ölçüde azaltılabileceğini bildirmiştir. Buna karşılık, öngörücü kaynak yönetimi ve dikey/yatay ölçekleme tekniklerini kullanan çalışmalar, ResNet-50, InceptionV3, Xception ve Wavenet gibi modellerde \%50-95 aralığında performans iyileştirmeleri ve \%95'e varan Hizmet Seviyesi Hedefi uyumluluğu sağlamıştır. Bu bulgular, performans ve verimlilik açısından hem toplu işlem hem de kaynak ölçeklemenin kritik önemini vurgulamaktadır. Bu çalışma, toplu işlemeyi eşzamanlılık ile bütünleştiren yenilikçi bir hibrit yöntem önermektetir. Yöntem, AWS Lambda üzerinde optimize edilmemiş bir temel senaryo (5.000 bireysel isteği işleyen 50 eşzamanlı iş parçacığı) ile bu tezde önerilen hibrit yaklaşımın (1.000 isteği işleyen 350 eşzamanlı iş parçacığı ve 5'lik toplu işlem boyutu) kontrollü karşılaştırmasını içermektedir. Toplam yürütme süresi, gecikme dağılımı ve sistem verimliliği gibi temel performans metrikleri sistematik olarak değerlendirilmiştir. Deneysel sonuçlar, önerilen hibrit yaklaşımın toplam yürütme süresini 139,97 saniyeden 30,30 saniyeye düşürdüğünü ve temel senaryoya kıyasla \%78,35 oranında önemli bir performans artışı sağladığını göstermektedir. Ayrıca, bu yaklaşımın kuyruk gecikmelerini azalttığı ve genel sistem verimliliğini artırdığı ortaya konmuştur. Bu çalışma sunucusuz ortamlarda makine öğrenimi çıkarım görevlerinin uygun maliyetli ve yüksek performanslı yürütülmesine yönelik pratik ve nicel olarak doğrulanmış bir çözüm sunarak literatüre önemli bir katkı sağlamaktadır.

Özet (Çeviri)

In serverless architectures, various optimization techniques have been developed that accelerate machine learning inference and reduce operational costs. Within this context, the batching approach has emerged as a particularly effective strategy. Experimental studies conducted on computer vision models such as ResNet-v2, ResNet-18, ResNet-50, Inception-v4, and MoBiNet report that dynamically adjusting batch sizes and timeout thresholds can reduce costs by approximately 50\% while significantly decreasing queueing delays. Conversely, studies leveraging predictive resource management and vertical/horizontal scaling techniques have achieved performance improvements in the range of 50–95\% and up to 95\% Service Level Objective (SLO) compliance on models such as ResNet-50, InceptionV3, Xception, and Wavenet. Collectively, these findings underscore the critical importance of both batching and resource scaling for enhancing performance and efficiency. This study proposes an innovative hybrid method that integrates batch processing with concurrency. The methodology involves a controlled comparison on AWS Lambda between a non-optimized baseline scenario (50 concurrent threads processing 5,000 individual requests) and the hybrid approach introduced in this thesis (a batch size of 5 with 350 concurrent threads processing 1,000 requests). Key performance metrics, including total execution time, latency distribution, and system efficiency, were systematically assessed. Experimental results demonstrate that the proposed hybrid approach reduced total execution time from 139.97 seconds to 30.30 seconds, achieving a substantial performance improvement of 78.35\% over the baseline. Furthermore, the approach was shown to mitigate queuing delays and enhance overall system efficiency. By offering a practical and quantitatively validated solution for cost-effective and high-performance execution of machine learning inference tasks in serverless environments, this study makes a significant contribution to the literature.

Benzer Tezler

  1. Tez No

    949473

    Performance analysis of FMCW radars in ISAC systems

    ISAC sistemlerinde FMCW radarların performans analizi

    MUHTEREM ULUSOY

    Yüksek Lisans

    İngilizce

    İngilizce

    2025

    Mühendislik Bilimleriİstanbul Teknik Üniversitesi

    Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı

    DOÇ. DR. MEHMET NURİ AKINCI

  2. Tez No

    995204

    Atto–femto scale planarsats: A power‑first design and feasibility framework for planar, surface‑limited spacecraft

    Atto–femto ölçeğinde planarsat'lar (düzlemsel uydular): düzlemsel ve yüzey-kısıtlı uzay araçları için güç-öncelikli bir tasarım ve fizibilite çerçevesi

    MEHMET ŞEVKET ULUDAĞ

    Doktora

    İngilizce

    İngilizce

    2026

    Havacılık ve Uzay Mühendisliğiİstanbul Teknik Üniversitesi

    Uçak ve Uzay Mühendisliği Ana Bilim Dalı

    PROF. DR. ALİM RÜSTEM ASLAN

  3. Tez No

    696754

    Cost minimization in function-as-a-service computing

    Başlık çevirisi yok

    ÖZGÜR SEDEFOĞLU

    Yüksek Lisans

    İngilizce

    İngilizce

    2021

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolÖzyeğin Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DOÇ. DR. HASAN SÖZER

  4. Tez No

    154618

    Policy enforcement

    Strateji uygulama

    DELAL NASIR

    Yüksek Lisans

    İngilizce

    İngilizce

    2004

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Kontrol ve Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. MEHMET BÜLENT ÖRENCİK

  5. Tez No

    964929

    Anomaly detection in ınternet of medical things using deep learning

    Anomaly detect ionin internet of medical things using deep learning

    AYŞE BETÜL BÜKEN

    Yüksek Lisans

    İngilizce

    İngilizce

    2025

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya Üniversitesi

    Yazılım Mühendisliği Ana Bilim Dalı

    PROF. DR. DEVRİM AKGÜN

Geri Dön