Geri Dön

Containers multi-host networking performance investigation according to traffic load

Trafik yüküne göre konteyner küme ağ performans incelemesi

  1. Tez No: 653744
  2. Yazar: GÜLSÜM ATICI
  3. Danışmanlar: DR. ÖĞR. ÜYESİ PINAR BÖLÜK
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2020
  8. Dil: İngilizce
  9. Üniversite: Bahçeşehir Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: 174

Özet

5G teknolojisi, NFV'ye dayalı çeşitli işlemleri gerçekleştirebilmek için sanal ağ işlevlerini (VNF) kullanır. Geleneksel VNF'ler (sanal makineler), trafik yüküne bağlı olarak dinamik çalışma zorluğu gibi yetersizliklere sahiptir. Bu sebeple yüksek trafik durumlarında donanım kaynaklarını aşırı tüketerek yetersiz kullanıcı deneyimi ve hatta hizmet kesintisine neden olabilirler. Konteyner yönetim platfomlarının otomatik kapasite, hata ve performans yönetim işlevleri de kullanılarak, konteyner olarak çalışan sanal ağ işlevleri (CNF), dinamik trafik gereksinimlerine uygun şekilde kolaylıkla iyileştirilip, ölçeklendirilebilir ve geleneksel VNF'lerin karşılaştığı sorunların üstesinden gelinebilir. CNF kullanımı ile donanım kaynakları paylaşımlı olarak kullanılır, gereksiz tahsis edilmiş kaynakların ve güç tüketiminin azaltılması sağlanır; konteynerların basitleştirilmiş yönetim kabiliyetleri ile kısıtlı kaynak durumlarının üstesinden kolaylıkla gelinir. Bununla birlikte, telekomünikasyon uygulamalarındaki sanal ağ işlevlerinin isterleri sıradan IT uygulamalarından farklıdır. Telekomünikasyon uygulamaları veri düzleminde paket işleme işlevlerinin yanı sıra çok düşük gecikme, neredeyse sıfır kesinti süresi, yüksek trafik kapasitesi ve sıradan IT uygulamalarından 1000 kat fazla veri akış hızı gibi oldukça zorlayıcı isterlere sahiptir. Sonuç olarak, telekomünikasyon uygulamalarında kullanılan CNF'ler trafik yüküne göre esnek, düşük gecikmeli, çok yüksek performanslı ve yüksek trafik yükü altında dirençli olmalıdır. Önceki araştırmalar, üst ağların kapsülleme, dekapülasyon veya yönlendirme nedeniyle ağ performansında kötüleşmeler meydana getirdiğini ortaya koymuştur. Bununla birlikte, konteyner ağ çözümleri farklı uygulama yöntemleri kullanarak farklı performanslar verebilmektedir. Bu sebeple, uygulama türüne göre en iyi performansa sahip konteyner ağ oluşturma çözümünü seçmek belirli VNF işlemleri için kritik öneme sahiptir. Çünkü, VNF uygulamaları için trafik talebi dalgalanabilir ve çeşitli durumlara bağlı olarak artabilir. Sonuç olarak, VNF uygulamaları için konteyner küme ağ çözümlerinin performansı; ağ oluşturma yöntemlerine, uygulama türlerine ve trafik hacmine bağlı olarak değişebilir. Bu çalışma, iş yükünü, trafik türünü ve trafik hacmini kapsamlı bir şekilde dikkate alarak yüksek performanslı konteyner ağı çözümünü keşfetmeyi amaçlamaktadır. Çok sayıda konteyner küme ağ çözümünün davranışı - Flannel, Weave, Libnetwork, Open vSwitch için açık sanal ağ ve Calico - en yaygın kullanılan konteyner ağı işlevleri açısından MongoDB ve Web erişimi biçiminde araştırılmaktadır. Bu nedenle, bu çalışma, daha önce gerçekleştirilmemiş olan konteyner küme ağ çözümleri üzerinde veritabanı (MongoDB) ve web uygulaması erişimi gibi en çok kullanılan NFV iş yükleri için yüksek trafik yükü altında performans ve güvenilirlik analizi boşluğunu doldurmaktadır. Bu tez, konteyner ağ oluşturma çözümlerini iki açıdan değerlendirerek katkı sağlar; tekli iş parçacığı davranışları ve çoklu iş parçacığı kullanılarak trafik yüküne göre davranışlar. Başlangıçta, kapasite, gecikme, bant genişliği ve güvenilirlik göz önünde bulundurularak üst ağ oluşturma çözümlerinin sıradan davranışlarını ölçmek için temel testler tek bir iş parçacığı ile yapılır. Daha sonra, ağır yük durumları birkaç paralel iş parçacığı ile taklit edilmiştir. Performans ve güvenilirlik; ağ debisi, gecikme, bant genişliği, yanıt süreleri, Jitter, yeniden iletilen TCP segmentleri ve kayıp datagramlar açısından farklı trafik yükleri altında web erişimi ve MongoDB işlemleri gibi farklı iş yükleri kullanılarak ölçülmüştür. Pratik olarak, test edilmiş iş yükleri, VNF'lerdeki ortak kullanımlarından dolayı seçilir ve konteyner ağ oluşturma çözümlerinin iş yüklerine göre uygunluğu açıkça ortaya konulur. Tek iş parçacıklı değerlendirmelerde, bare-metal sunucuların performansı, verim ve gecikme açısından konteyner ağ oluşturma çözümleriyle de karşılaştırılır. Konteyner ağ çözümleri paket yönlendirme veya kapsülleme ek yüklerine sahip olduğundan bare-metal ana bilgisayarları tüm konteyner ağ çözümlerinden daha iyi performans gösterir. Şaşırtıcı bir şekilde, 4096 bayt mesaj boyutları için Calico'nun iş hacminin TCP_CRR testlerinde bare-metal sunucu iş hacmini geçmesi Docker'ın donanım boşaltma özellikleri etkisi ile açıklanabilmektedir. Bu çalışma ayrıca konteyner ağ çözümlerindeki donanım boşaltma iyileştirmesini de desteklemektedir. Tek iş parçacıklı değerlendirmelerde, OVN, UDP trafiğinde düşük bant genişliği ile birlikte TCP trafiği için verim, bant genişliği ve gecikme için tatmin edici sonuçlar vermez. Bu durum OVN'nin Geneve donanım boşaltma özelliğini kullanamaması, daha büyük üst ağ başlık boyutu, OVS uzun veri yolu ve ilk akış oluşturmada yaşanan kayıplar ile açıklanabilir. Weave, tüm pencere boyutlarında düşük güvenilirliğe sahip küçük ve büyük pencere boyutlarında sırasıyla ortalama ve düşük bant genişliğine sahip OVN'den sonra en kötü performans gösteren ikinci çözümdür. Bu vesile ile, Weave tek iş yükü ile gerçekleştirilen testlerde diğer çözümlerle karşılaştırıldığında yeterli performansı gösterememiştir. Libnetwork diğer üst ağ çözümlerine benzer bazı dezavantajlara sahip olduğu için, Libnetwork'ün tek iş parçacığı testlerinde performansı, Calico ile karşılaştırıldığında tatmin edici değildir. Flannel, düşük bant genişliği ve yüksek gecikme çıktıları verdiği için tek iş parçacığı performans değerlendirmelerinde verimli bulunmamıştır. Calico, tüm tek iş parçacığı operasyonlarını göz önünde bulundurulduğunda, en iyi performansı gösteren çözümdür. Calico bir üst ağ çözümü olmadığından bu sonuç makuldür. BGP ve L3 yönlendirme kullanan Calico, herhangi bir kapsülleme ek yükünden etkilenmez. Çok iş parçacıklı değerlendirmelerde, OVN tüm iş yükü işlemleri için nispeten düşük çoklu iş parçacığı kazancı sağlar. Weave, tüm veritabanı işlemleri için yüksek çoklu iş parçacığı kazancı sunar, ancak web erişimi işlemleri için oldukça düşük kazanç sağlar. Libnetwork, veritabanı güncelleme işlemleri hariç tüm iş yükleri için en yüksek çoklu iş parçacığı kazancını sağlar. Bununla birlikte, Libnetwork'ün performansı, yoğun trafik yükü altında tüm konteyner ağı çözümleri arasında en çok kötüleşendir. Flannel, tüm veritabanı işlemleri için düşük çoklu iş parçacığı kazancı sağlarken, web erişimi işlemleri için ortalama çoklu iş parçacığı kazancı sunar. Flanel, Jitter, kayıp UDP datagramları ve yeniden iletilen TCP segmentleri açısından en az güvenilir çözümdür. Calico, tüm iş yükü işlemleri için düşük çoklu iş parçacığı kazancı sağlar. Calico, çoklu iş parçağı kullanımından Libnetwork ve Weave çözümleri kadar faydalanamamıştır. Ancak, Calico'nun performansı trafik yükünden de pek etkilenmemiştir. Çok iş parçacıklı değerlendirmeler, çözümlerin hiçbirinin optimum veya ağır yük durumlarında tüm iş yükü türleri için yüksek bir verim sağlamadığını göstermektedir. Bu nedenle, bu araştırma, geleneksel konteyner ağı uygulama yöntemlerinin, konteyner ağ işlevlerinin ağ performansı gereksinimlerini karşılayamayabileceği görüşünü sunmaktadır. Bunun nedeni, konteyner ağ performansının trafik yüküne ve uygulama türüne bağlı olarak dinamik bir şekilde değişmesidir. Bu sorunun üstesinden gelebilmek için, Smart Container Network Interface Manager'ı konteyner izleme araçlarıyla birlikte kullanan yeni bir akıllı konteyner ağı mimarisi önerilmektedir. Önerilen mimari, konteyner'ların istenen performans gereksinimlerine bağlı olarak birçok ağ çözümünü dinamik olarak kullanmasına olanak sağlamaktadır.

Özet (Çeviri)

5G technology uses virtual network functions (VNF) in order to perform several operations based on NFV. Traditional VNFs (virtual machines) have some shortcomings such as consuming hardware resources excessively in high traffic situations and difficulty in operating dynamically pursuant to traffic load by causing inadequate user experience or even service interruptions. Cloud-native VNFs (containers) overcome the limitations of traditional VNFs by facilitating automated scaling according to dynamic traffic requirements, self-healing or fault tolerance together with automated capacity, fault and performance management by the help of container orhestrator platforms. Simplified management with reduction of unnecessary allocated resources, reusability together with sharing of processes by reducing power consumption and hardware resources are very beneficial especially for throttled resource situations. However, requirements of VNFs for telecommunications applications are different than any cloud native IT applications by performing data plane packet processing functions together with control, signalling and media processing with critical processing requirements such as very low latency, nearly zero downtime availability together with high traffic handle within thousand times larger throughput than ordinary IT applications. Consequently, CNFs in telecommunications should be resilient, low latency, ultra-high performance and robust under high traffic situations. Previous researches put out that overlay networks give an overhead on network performance because of encapsulation, decapsulation or routing. Besides, container networking solutions can give different performances by using different implementation methods. Additionally, descrying the best performing container networking solution according to application type is critically important for specific VNF operations. Furthermore, traffic demand for VNF applications can fluctuate and boost depend on several situations. Consequently, multi host container networking performance for VNF applications may vary depend on container networking implementation methods, application types and traffic volume. This study aims to discover high performing container networking solutions by considering workload, traffic type and traffic volume comprehensively. The behaviour of several container cluster networking solutions - Flannel, Weave, Libnetwork, Open Virtual Networking for Open vSwitch and Calico - are explored with regard to the most commonly-used Container Network Functions in the form of MongoDB and Web access. Hence, this research is filling the gap of performance and reliability analysis on multi-host container networking under high traffic load within the mostly used NFV workloads such as database (MongoDB) and web application access which are not investigated before. This thesis gives the contribution by evaluating the container networking solutions from two perpectives; single thread behaviour and behaviour according to traffic load. Initially, basic performance tests are performed within single thread to measure container networking solutions' regular behaviour by considering throughput, latency, bandwidth and reliability. Afterwards, heavy load situations has imitated with several parallel threads; performance and reliability has measured by using different workloads that are web access and MongoDB operations under different traffic loads in terms of throughput, latency, bandwidth, response times, jitter, retransmitted TCP segments and lost datagrams. Practically, tested workloads are selected because of their common usage in VNF's and container networking solutions conformity according to workloads are clearly represented. In the evalutions with single thread, baremetal hosts native performance is also compared with container networking solutions in terms of throughput and latency. Baremetal hosts outperformed than all container networking solutions as container networking solutions have packet routing or encapsulation overheads. Suprisingly, Calico's throughput within 4096 bytes message sizes passed the bare-metal host throughput in TCP_CRR tests which can be explained with the hardware offloading features effect of Docker. This study is also supporting the offloading amendment in container networking solutions. In single thread evalutions, OVN does not provide satisfied results for throughput, bandwidth and latency for TCP traffic together with low bandwidth in UDP traffic, which can be explained by lack of Geneve offloading, bigger header size, first hit misses because of OVS long datapath. Weave is the second worst performing solution after OVN with fair and low bandwidth respectively in small and large window sizes together with having low reliability on all window sizes. Hereby, Weave could not operate adequately compared with other tested solutions in single thread operations. Libnetwork single thread performance is unsatisfactory compared with Calico as it has some drawbacks similar to other overlay solutions. Flannel is not opportune in single thread performance evaluations as giving low bandwidth and high latency outputs. Calico is best performing solution by considering all single thread test operations. This result is reasonable as Calico is not an overlay solution. Calico which uses BGP and pure L3 routing, is not impacted with any encapsulation overheads. In multithreaded evalutions, OVN gives comparatively low multithreading gain for all type of workload operations. Weave offers the high multithreading gain for all database operations however it render quite low gain for web access operations. Libnetwork gives the highest multithreading gain for all workloads except database update operations. However, Libnetwork's performance has most deteriorated under heavy traffic load amongst all container networking solutions. Flannel gives the low multithreading gain for all database operations while offering average multithreading gain for web access operations. Flannel is most unreliable solution in terms of jitter, lost UDP datagrams and retransmitted TCP segments. Calico gives low multithreading gain for all type of workload operations. Calico could not benefitted from multithreading as much as other solutions such as Libnetwork and Weave. However, it is performance ranking is not much impacted under heavy traffic load. Multithreaded evaluations show that none of the solutions provide high throughput for all type of workloads under optimum or heavy load situations. Hence, this research presents the view that traditional container networking implementation methods may not fulfill the Container Network Functions' networking performance requirements. This is because container networking performance changes dynamically, depending on traffic load and application types. To overcome this problem, a new smart container networking architecture is proposed which uses the Smart Container Network Interface Manager in conjunction with container monitoring tools. The proposed architecture allows containers to use several container networking solutions dynamically, depending on the desired performance requirements.

Benzer Tezler

  1. A software defined network framework in 5G wireless systems

    5G kablosuz sistemlerde yazılım temelli ağ iskeleti

    GÖKHAN SEÇİNTİ

    Doktora

    İngilizce

    İngilizce

    2017

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DOÇ. DR. BERK CANBERK

  2. Yatağan-Kozlu-Gökyurt-Erenkaya (Konya batısı) arasındaki bölgede yer alan volkanik kayaçların maden potansiyelinin araştırılması

    Investigation of the ore potential of volcanic rocks in the region among the Yatağan-Kozlu-Gökyurt-Erenkaya towns (western Konya)

    BEYZA AY

    Yüksek Lisans

    Türkçe

    Türkçe

    2015

    Jeoloji MühendisliğiSelçuk Üniversitesi

    Jeoloji Mühendisliği Ana Bilim Dalı

    DOÇ. DR. FETULLAH ARIK

  3. Mapping of the electronic structure of metalloproteins onto multi-orbital Anderson model using the density functional theory

    Yoğunluk fonksiyoneli teorisini kullanarak metaloproteinlerin elektronik yapısının çok yörüngeli Anderson modeli çerçevesinde betimlenmesi

    ZAFER KANDEMİR

    Yüksek Lisans

    İngilizce

    İngilizce

    2013

    Fizik ve Fizik Mühendisliğiİzmir Yüksek Teknoloji Enstitüsü

    Fizik Ana Bilim Dalı

    PROF. DR. NEJAT BULUT

    PROF. DR. RAMAZAN TUĞRUL SENGER

  4. Cloning of The Laccase cDNAs from Pycnoporus sanguineus MUCL 38531, Expression in Pichia pastoris and Characterization of Recombinant Laccases

    Pycnoporus sanguineus?tan Lakkaz cDNA?larının Klonlanması, Pichia pastoris?te Ekspresyonu ve Rekombinant Lakkazların Karakterizasyonu

    GÜNSELİ KURT GÜR

    Doktora

    İngilizce

    İngilizce

    2010

    Biyoteknolojiİstanbul Teknik Üniversitesi

    İleri Teknolojiler Ana Bilim Dalı

    DOÇ. DR. AYTEN YAZGAN KARATAŞ