Szkolenie: Kubernetes + GenAI Hands-on — od kontenera z modelem do produkcyjnego AI Copilota
Kubernetes + GenAI Hands-on to praktyczne szkolenie z wdrażania, skalowania, monitorowania i zabezpieczania modeli LLM w Kubernetes z użyciem KServe, KEDA, Prometheus i OpenTelemetry. Kurs pokazuje, jak uruchomić AI Copilota, udostępnić model przez API zgodne z OpenAI, zarządzać CPU, pamięcią, GPU i storage oraz budować odporne usługi inference
- Trenerzy praktycy
- Kameralne grupy
Czas trwania szkolenia:3 dni (24h)
Kod kursu:KUBERNETES/GENAI
Dostępne terminy szkolenia
Termin:
Trwają zapisy na szkolenie
Dostępne w Bazie Usług Rozwojowych
online_paymentsTrener:
Cena:
2850 PLN netto
Lokalizacja:
ZdalneTermin:
Trwają zapisy na szkolenieDostępne w Bazie Usług Rozwojowychonline_paymentsTrener:
Cena:
2850 PLN nettoLokalizacja:
ZdalneTermin:
Trwają zapisy na szkolenieDostępne w Bazie Usług Rozwojowychonline_paymentsTrener:
Cena:
2850 PLN nettoLokalizacja:
ZdalneTermin:
Trwają zapisy na szkolenieDostępne w Bazie Usług Rozwojowychonline_paymentsTrener:
Cena:
2850 PLN nettoLokalizacja:
ZdalneKubernetes + GenAI Hands-on — od kontenera z modelem do produkcyjnego AI Copilota
Cele szkolenia
Szkolenie przygotowuje do samodzielnego uruchamiania i utrzymywania modeli generatywnej sztucznej inteligencji w środowisku Kubernetes z wykorzystaniem kontenerów, manifestów YAML oraz narzędzi administracyjnych klastra
Szkolenie uczy planowania i konfigurowania zasobów CPU, pamięci, GPU i storage dla workloadów AI, w tym doboru requests, limits, sond, wolumenów oraz mechanizmów ograniczających ryzyko OOM i długiego startu
Szkolenie pokazuje wdrażanie i deklaratywne zarządzanie usługami inference z użyciem KServe, w tym wersjonowanie modeli, rollout, integrację runtime oraz organizację przechowywania artefaktów
Szkolenie przygotowuje do projektowania autoskalowania usług GenAI na podstawie ruchu i metryk, z użyciem Prometheus i KEDA, w tym kolejek, współbieżności, scale-to-zero oraz ochrony przed flappingiem
Szkolenie uczy monitorowania wydajności, dostępności i błędów usług GenAI z wykorzystaniem OpenTelemetry oraz analizy metryk TTFT, TPOT i tokens/s w celu oceny jakości działania modeli LLM
Szkolenie rozwija umiejętność projektowania odpornych usług AI i AI Copilotów, obejmując backpressure, graceful shutdown, ochronę przed przeciążeniem, obsługę awarii oraz bezpieczne przetwarzanie promptów i danych telemetrycznych
Dla kogo?
Administratorzy Kubernetes z praktyką w utrzymaniu klastrów, namespace, zasobów i workloadów kontenerowych
Inżynierowie DevOps, Cloud i Platform Engineering wdrażający lub rozwijający platformy dla rozwiązań GenAI
Programiści integrujący aplikacje z modelami językowymi i API zgodnym z OpenAI
Architekci projektujący środowiska do uruchamiania, skalowania i monitorowania usług AI
Specjaliści techniczni znający podstawy Kubernetes, kubectl, YAML, Linux, HTTP i REST API
Efekty kształcenia
Uczestnik uruchamia model językowy LLM w klastrze Kubernetes i udostępnia go przez API zgodne z OpenAI
Uczestnik konfiguruje zasoby CPU, pamięci, GPU, sondy oraz storage dla workloadów AI inference
Uczestnik wdraża i wersjonuje modele z użyciem KServe, InferenceService oraz runtime modelu w środowisku Kubernetes
Uczestnik analizuje metryki TTFT, TPOT i tokens/s podczas testów obciążeniowych oraz ocenia wydajność modeli GenAI
Uczestnik projektuje autoskalowanie usług GenAI z użyciem Prometheus, KEDA oraz mechanizmów scale-to-zero
Uczestnik monitoruje i zabezpiecza usługi AI z wykorzystaniem OpenTelemetry, chroniąc je przed przeciążeniem i awariami
Wymagania
Praktyczna znajomość wybranego narzędzia do uruchamiania kontenerów, na przykład Docker
Podstawowa praktyczna znajomość Kubernetes
Umiejętność korzystania z kubectl oraz czytania manifestów YAML
Podstawowa znajomość systemu Linux i pracy z terminalem
Podstawowa wiedza dotycząca protokołu HTTP i komunikacji z REST API
W cenie otrzymasz:
Materiały szkoleniowe
Certyfikat ukończenia szkolenia
W przypadku szkolenia w trybie stacjonarnym zapewnimy Ci również lunch oraz sprzęt niezbędny do nauki
Program szkolenia
Autorem szkolenia jest Marcin Makowski
Cloud Architekt z ponad 10-letnim doświadczeniem w programowaniu, odnajdujący się na wielu polach związanych z szeroko rozumianą informatyką. Posiada bogate doświadczenie w programowaniu w wielu językach, w tym w Javie, Go, C# i Pythonie. Jako Full Stack Developer potrafi pracować nad wszystkimi warstwami aplikacji – od bazy danych po interfejs użytkownika. Od kilku lat aktywnie prowadzi szkolenia z technologii Docker i Kubernetes, wspierając profesjonalistów w zdobywaniu praktycznych umiejętności.…
Wybrane opinie
Przeczytaj pozytywne opinie pochodzące z ankiet satysfakcji z naszych szkoleń wypełnianych wyłącznie przez ich uczestników po realizacji usługi
