Geri Dön

Büyük dil modeli entegrasyonu ile kubernetes üzerinde otomatik ölçeklendirme için iş-yükü deseni farkında bir çerçeve geliştirilmesi

Developing a workload pattern-aware framework for auto-scaling on kubernetes with large language model integration

  1. Tez No: 977386
  2. Yazar: CANBERK DUMAN
  3. Danışmanlar: DOÇ. DR. SÜLEYMAN EKEN
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: Belirtilmemiş.
  7. Yıl: 2025
  8. Dil: Türkçe
  9. Üniversite: Kocaeli Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilişim Sistemleri Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: Belirtilmemiş.

Özet

Bu araştırma, Kubernetes ortamlarında Tahmine Dayalı Yatay Pod Otomatik Ölçeklendirme (PHPA) için yenilikçi bir metodoloji sunmaktadır. Mevcut Yatay Pod Otomatik Ölçeklendiricisi (HPA), reaktif operasyonel paradigması nedeniyle optimal olmayan kaynak kullanımı ve performans sorunlarına yol açmaktadır. Bu çalışma, gelişmiş zaman serisi tahmin tekniklerini, hiperparametre optimizasyonunu ve Büyük Dil Modeli (LLM) tabanlı örüntü tanımayı birleştirerek proaktif kaynak öngörüsü sağlamayı amaçlamaktadır. Çalışma kapsamında altı temel iş yükü örüntüsü (mevsimsel, büyüyen, ani artış, açık/kapalı, kaotik, kademeli) içeren kapsamlı bir taksonomi oluşturulmuştur. Her örüntü türü için özel optimizasyon stratejileri geliştirilmiş ve 600 senaryoda 2 milyondan fazla veri noktası ile doğrulanmıştır. 7 farklı CPU optimize edilmiş tahmin modeli, gelişmiş optimizasyon metodolojileri ile sistematik olarak değerlendirilmiştir. Araştırmanın temel katkısı, LLM'ler aracılığıyla otomatikleştirilen örüntü tabanlı akıllı model seçimidir. Bu yaklaşım, tek model kullanımına kıyasla ortalama %37.4 tahmin doğruluğu iyileştirmesi sağlamaktadır. Geliştirilmiş LLM tabanlı örüntü tanıma çerçevesi, Gemini 2.5 Pro ile %96.7 doğruluk elde etmektedir. Çalışma, reaktiften tahmine dayalı otomatik ölçeklendirmeye geçiş için teorik ve pratik temeller sunarak, gelecekteki LLM entegreli Kubernetes operatörlerinin geliştirilmesine olanak tanımaktadır.

Özet (Çeviri)

This research presents an innovative methodology for Predictive Horizontal Pod Autoscaling (PHPA) in Kubernetes environments. The existing Horizontal Pod Autoscaler (HPA) suffers from suboptimal resource utilization and performance issues due to its reactive operational paradigm. This study aims to provide proactive resource forecasting by combining advanced time series prediction techniques, hyperparameter optimization, and Large Language Model (LLM) based pattern recognition. A comprehensive taxonomy encompassing six fundamental workload patterns (seasonal, growing, burst, on-off, chaotic, gradual) has been established within the scope of this study. Specialized optimization strategies have been developed for each pattern type and validated with over 2 million data points across 600 scenarios. 7 different CPU-optimized prediction models have been systematically evaluated with advanced optimization methodologies. The primary contribution of this research is intelligent pattern-based model selection automated through LLMs. This approach provides an average 37.4% improvement in prediction accuracy compared to single-model usage. The developed LLM-based pattern recognition framework achieves 96.7% accuracy with Gemini 2.5 Pro. The study provides theoretical and practical foundations for the transition from reactive to predictive autoscaling, enabling the development of future LLM-integrated Kubernetes operators.

Benzer Tezler

  1. LLM based code generation and code integration with multi agent systems

    Büyük dil modeli tabanlı kod üretimi ve çoklu ajan sistemleri ile kod entegrasyonu

    YASİN BÜZGÜLÜ

    Yüksek Lisans

    İngilizce

    İngilizce

    2026

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Medipol Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    PROF. DR. SELİM AKYOKUŞ

    DR. SALİH SARP

  2. Mobil uygulama ile derin öğrenme tabanlı nesne tespiti ve büyük dil modeli ile ifade üretme

    Deep learning-based object detection with mobile application and expression generation using a large language model

    NURCİHAN DERE

    Yüksek Lisans

    Türkçe

    Türkçe

    2025

    Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolMarmara Üniversitesi

    Bilgisayar Mühendisliği Ana Bilim Dalı

    DOÇ. DR. KAZIM YILDIZ

    DOÇ. DR. ÖNDER DEMİR

  3. Yapay zekâ büyük dil modellerinin öğretim yönetim sistemlerine entegrasyonu ve yönetimi

    Integration and management of artificial intelligence large language models into learning management systems

    SERKAN ŞAHİN

    Doktora

    Türkçe

    Türkçe

    2025

    Yönetim Bilişim SistemleriAtatürk Üniversitesi

    Yönetim Bilişim Sistemleri Ana Bilim Dalı

    PROF. DR. UĞUR YAVUZ

  4. Büyük dil modeli tabanlı üniversite sanal asistanı geliştirilmesi

    Development of a university assistant based on large language model

    FADİME ZELİHA SEYHAN

    Yüksek Lisans

    Türkçe

    Türkçe

    2025

    Elektrik ve Elektronik MühendisliğiSakarya Uygulamalı Bilimler Üniversitesi

    Elektrik-Elektronik Mühendisliği Ana Bilim Dalı

    DOÇ. ALİ FURKAN KAMANLI

  5. Otoimmün hepatitte antinükleer antikor durumunun öngörülmesi için çok-modlu makine öğrenimi: Laboratuvar değerleri ile patoloji raporlarının doğal dil işleme entegrasyonu

    Multi-modal machine learning for predicting antinuclear antibody status in autoimmune hepatitis: Integrating natural language processing of laboratory values and pathology reports

    YUSUF ÜSAME DURMUŞ

    Tıpta Uzmanlık

    Türkçe

    Türkçe

    2026

    İç HastalıklarıSağlık Bilimleri Üniversitesi

    İç Hastalıkları Ana Bilim Dalı

    PROF. DR. TAYYİBE SALER

    DOÇ. DR. CEM ŞİMŞEK