Cross-provider Serverless Trigger Benchmarking
Sağlayıcılar Arası Sunucusuz Tetikleyici Karşılaştırması
- Tez No: 929018
- Danışmanlar: YRD. DOÇ. DR. KRİSTİAN RİETVELD, PROF. DR. ROB VAN NİEUWPOORT
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2023
- Dil: İngilizce
- Üniversite: Leıden Unıversıty
- Enstitü: Yurtdışı Enstitü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu tez, serverless (sunucusuz) bilişim alanını incelemekte ve özellikle farklı bulut sağlayıcıları ve tetikleyici (trigger) türleri arasındaki cold start gecikmelerine odaklanmaktadır. AWS Lambda ve Google Cloud Functions gibi serverless platformlar, altyapı yönetimini geliştiricilerden gizleyerek uygulama geliştirmeyi kolaylaştırmıştır. Ancak, kullanılmayan işlevlerin yeniden başlatılması sırasında oluşan cold start gecikmeleri, özellikle düşük gecikme süresi gerektiren uygulamalarda ciddi bir performans sorunu oluşturmaktadır. Serverless performansı geçmiş çalışmalarda sıkça araştırılmış olsa da, çoğu çalışma farklı tetikleyici türlerinde cold start süresi etkisini detaylı şekilde ele almamıştır. Bu araştırma boşluğunu doldurmak amacıyla, AWS ve Google Cloud platformlarında farklı çalışma zamanları (Node.js, Python, Java) kullanılarak cold ve warm start gecikmelerinin ölçüldüğü çapraz sağlayıcı bir serverless benchmark aracı geliştirilmiştir. Bu araç ile çeşitli senaryolarda sistematik deneyler yapılmıştır. Deney sonuçlarına göre, AWS, özellikle senkron (HTTP) tetikleyicilerde, Google Cloud Platform'a kıyasla daha düşük gecikme süreleri sağlamaktadır. Ancak her iki platformda da özellikle depolama ve veritabanı tetikleyicilerinde ciddi cold start gecikmeleri yaşanmakta, bu süreler 1500 ms ile 2700 ms arasında değişmektedir. Ayrıca zincirleme (chain) şekilde tetiklenen işlevlerin kullanıldığı bir altyapı geliştirilmiş ve bu yapıda gecikmelerin birbirine eklenerek sistem genelinde önemli performans kayıplarına yol açtığı gözlemlenmiştir. Accenture iş birliğiyle yürütülen bu araştırma, düşük gecikme süresi kritik olan coğrafi bilgi teknolojileri, mobil/web uygulamaları ve finansal sistemler gibi alanlarda serverless mimarilerde cold start süresinin optimize edilmesinin önemini vurgulamaktadır. Bu tür uygulamalarda küçük gecikmeler bile kullanıcı memnuniyetini azaltabilir ve finansal kayıplara neden olabilir. Sonuç olarak, bu tez farklı tetikleyici türleri, çalışma zamanları ve bulut sağlayıcıları arasında cold start gecikmelerinin nasıl değiştiğini ortaya koymakta ve serverless uygulamaları geliştirenler için değerli çıkarımlar sunmaktadır. Ayrıca gelecekte yapılacak araştırmalar için yeni çalışma zamanı ortamlarının ve daha geniş tetikleyici türlerinin incelenmesi gibi önerilerde bulunulmuştur.
Özet (Çeviri)
This thesis investigates serverless computing, with a primary focus on cold start latency across different cloud providers and serverless trigger types. Serverless platforms such as AWS Lambda and Google Cloud Functions have simplified application development by abstracting infrastructure management. However, the problem of cold starts — delays caused when inactive functions are reactivated — remains a significant obstacle, especially for applications where low latency is crucial. While serverless performance has been well-researched in previous studies, most have neglected the impact of cold start durations across various trigger types such as HTTP requests, storage events, and database updates. To address this research gap, a cross-provider serverless benchmarking tool was developed to measure and analyze cold and warm start latencies across AWS and Google Cloud, using different runtimes like Node.js, Python, and Java. This tool allowed systematic experiments under various invocation scenarios. The experimental findings show that AWS consistently delivers lower latencies than Google Cloud Platform, particularly when using synchronous HTTP triggers. However, both platforms experience significant delays — between 1500 ms and 2700 ms — for storage and database triggers. Additionally, the study introduced a chained function infrastructure, revealing that when multiple serverless functions are triggered sequentially, the latency accumulates substantially, negatively affecting overall system responsiveness. Conducted in collaboration with Accenture, the research emphasizes the importance of optimizing cold start performance in real-world applications such as geospatial technologies, mobile/web platforms, and financial systems. These types of applications are especially sensitive to response time, where even minor delays can lead to reduced user satisfaction and financial losses. In conclusion, the thesis provides a deeper understanding of how cold start latencies vary depending on the trigger type, runtime environment, and cloud provider. It offers valuable insights for developers designing latency-sensitive serverless applications and proposes areas for future research, such as further exploring new cloud runtimes and broader trigger categories.
Benzer Tezler
- Mobil cihazlar için aktivite tanıma tabanlı adaptif kullanıcı arayüzü
Adaptive user interface for mobile devices based on activity recognition
ÖZLEM YURDAKURBAN
Yüksek Lisans
Türkçe
2018
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ GÖKHAN İNCE
- Mikroservis tabanlı ağ uygulamalarında zararlı davranışların saptanması
Detecting malicious behavior in microservices-based web applications
MUSTAFA ÖZBEK
Yüksek Lisans
Türkçe
2019
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ MEHMET TAHİR SANDIKKAYA
- Türkiye iklim koşullarındaki veri merkezlerinin soğutulmasında ekonomizer kullanımının enerji tasarrufu ve ekonomik potansiyel değerlendirmesi
Energy savings and economic potential assessment of economizer use for cooling data centers in Turkey's climate conditions
OZAN GÖZCÜ
Yüksek Lisans
Türkçe
2019
Makine Mühendisliğiİstanbul Teknik ÜniversitesiMakine Mühendisliği Ana Bilim Dalı
PROF. DR. İLKER MURAT KOÇ
DR. ÖĞR. ÜYESİ HAMZA SALİH ERDEN
- Deterministic and stochastic models for practical scheduling problems
Uygulamalı çizelgeleme problemleri için deterministik ve stokastik modeller
ELVİN ÇOBAN GÖKTÜRK
Doktora
İngilizce
2012
İşletmeCarnegıe Mellon Unıversıtyİşletme Yönetimi Ana Bilim Dalı
PROF. DR. ALAN SCHELLER-WOLF
- Dokuma kumaşlarda örgü tipinin ham kumaşın boyutları ve geometrik özellikleri üzerindeki etkilerinin araştırılması
Başlık çevirisi yok
EMEL ÖNDER
Yüksek Lisans
Türkçe
1985
Tekstil ve Tekstil MühendisliğiEge ÜniversitesiTekstil Mühendisliği Ana Bilim Dalı
DOÇ. DR. GÜNGÖR BAŞER