Ändra sökning
RefereraExporteraLänk till posten
Permanent länk

Direktlänk
Referera
Referensformat
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • apa.csl
  • Annat format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annat språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf
Dimensioning Microservices on Kubernetes Platforms Using Machine Learning Techniques
Karlstads universitet, Fakulteten för hälsa, natur- och teknikvetenskap (from 2013), Institutionen för matematik och datavetenskap (from 2013).
2023 (Engelska)Självständigt arbete på avancerad nivå (masterexamen), 20 poäng / 30 hpStudentuppsats (Examensarbete)
Abstract [en]

In recent years, cloud computing and containerization have become increasingly popular for various applications. However, optimizing resource usage and minimizing costs while providing reliable and efficient service to users can be a challenge. One such challenge is scaling containers according to the current system load.

This thesis focuses on the problem of properly dimensioning pods in Kubernetes, a widely used platform for managing containerized applications. The motivation behind this problem is that the standard solution, Horizontal Pod Autoscaler (HPA), often results in wasted resources or poor performance due to overprovisioning or underprovisioning.

This thesis proposes a proactive approach to scaling applications by utilizing machine learning models to predict future resource requirements based on concurrent user counts on the platform. This approach involves collecting and modifying data from HPA and training various machine learning models to forecast and predict the system's future behavior.

The results of this thesis demonstrate that machine learning models can predict future resource requirements based on trends in the application. Based on the data evaluation, it was found that overprovisioning negatively affects the response time. Additionally, the machine learning models were accurate enough to predict future CPU needs. However, further research and experimentation are necessary to improve the accuracy and reliability of these models.

Abstract [sv]

Under de senaste åren har cloud computing och containerisering blivit allt populärare för olika applikationer. Det kan dock vara en utmaning att optimera resursanvändningen och minimera kostnaderna och samtidigt tillhandahålla pålitlig och effektiv service till användarna. En sådan utmaning är hur man skalar containrar enligt den aktuella systembelastningen.

Det här examensarbetet fokuserar på problemet med korrekt dimensionering av pods i Kubernetes, en allmänt använd plattform för att hantera containeriserade applikationer. Motivet bakom detta problem är att standardlösningen, Horizontal Pod Autoscaler (HPA), ofta resulterar i antingen slöseri med resurser eller dålig prestanda på grund av överprovisionering eller underprovisionering.

Detta examensarbete syftar till att föreslå ett proaktivt tillvägagångssätt för att skala applikationer genom att använda maskininlärningsmodeller för att förutsäga framtida resurskrav baserat på samtidiga antal användare på plattformen. Detta tillvägagångssätt innebär att samla in och modifiera data från HPA och träna olika maskininlärningsmodeller för att förutsäga systemets framtida beteende.

Resultaten av denna avhandling visar att maskininlärningsmodeller kan förutsäga framtida resursbehov baserat på trender i applikationen. Baserat på datautvärderingen fann man att överprovisionering påverkar svarstiden negativt. Dessutom var maskininlärningsmodellerna tillräckligt exakta för att förutsäga framtida CPU-behov. Det krävs dock ytterligare forskning och experiment för att förbättra noggrannheten och tillförlitligheten hos dessa modeller.

Ort, förlag, år, upplaga, sidor
2023. , s. 73
Nyckelord [en]
Kubernetes, dimensioning, scaling, resource management, horizontal pod autoscaler, machine learning
Nyckelord [sv]
Kubernetes, dimensionering, skalning, resurshantering, horisontell pod autoscaler, maskininlärning
Nationell ämneskategori
Datavetenskap (datalogi)
Identifikatorer
URN: urn:nbn:se:kau:diva-95796OAI: oai:DiVA.org:kau-95796DiVA, id: diva2:1776407
Ämne / kurs
Datavetenskap
Utbildningsprogram
Civilingenjör: Datateknik (300 hp)
Presentation
2023-06-15, 21E 415A, Universitetsgatan 2, Karlstad, 13:00 (Engelska)
Handledare
Examinatorer
Tillgänglig från: 2023-08-17 Skapad: 2023-06-28 Senast uppdaterad: 2023-08-17Bibliografiskt granskad

Open Access i DiVA

fulltext(9870 kB)66 nedladdningar
Filinformation
Filnamn FULLTEXT01.pdfFilstorlek 9870 kBChecksumma SHA-512
568a7ac21f054ad6bba7c4dcdd7d50ce33cd7ae032db64d16882f640a572fc2905045e4c87535d49aa6a4d151da0441f8e21ba5f72c91c2587b828665c9229e9
Typ fulltextMimetyp application/pdf
Arkivfil(9870 kB)38 nedladdningar
Filinformation
Filnamn FULLTEXT02.pdfFilstorlek 9870 kBChecksumma SHA-512
568a7ac21f054ad6bba7c4dcdd7d50ce33cd7ae032db64d16882f640a572fc2905045e4c87535d49aa6a4d151da0441f8e21ba5f72c91c2587b828665c9229e9
Typ fulltextMimetyp application/pdf

Sök vidare i DiVA

Av författaren/redaktören
Rubak, Adam
Av organisationen
Institutionen för matematik och datavetenskap (from 2013)
Datavetenskap (datalogi)

Sök vidare utanför DiVA

GoogleGoogle Scholar
Totalt: 104 nedladdningar
Antalet nedladdningar är summan av nedladdningar för alla fulltexter. Det kan inkludera t.ex tidigare versioner som nu inte längre är tillgängliga.

urn-nbn

Altmetricpoäng

urn-nbn
Totalt: 224 träffar
RefereraExporteraLänk till posten
Permanent länk

Direktlänk
Referera
Referensformat
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • apa.csl
  • Annat format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annat språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf