Szkolenie: Optymalizacja modeli uczenia głębokiego w procesie treningu i inferencji
Szkolenie z optymalizacji modeli uczenia głębokiego uczy praktycznych technik przyspieszania treningu i inferencji, kompresji modeli, wdrażania na urządzeniach brzegowych oraz optymalizacji dużych modeli językowych i wizji komputerowej
- Trenerzy praktycy
- Kameralne grupy
Czas trwania szkolenia:2 dni (16h)
Kod kursu:DL/OPT
Optymalizacja modeli uczenia głębokiego w procesie treningu i inferencji
Cele szkolenia
Szkolenie przygotowuje do samodzielnego stosowania technik optymalizacji modeli głębokiego uczenia w różnych środowiskach
Szkolenie uczy wykorzystywania narzędzi i metod takich jak kwantyzacja, pruning oraz mixed-precision training w praktyce
Szkolenie pokazuje, jak wdrażać zoptymalizowane modele na urządzeniach brzegowych i w środowiskach o ograniczonych zasobach
Szkolenie omawia sposoby optymalizacji dużych modeli językowych oraz modeli wizji komputerowej pod kątem wydajności i efektywności
Dla kogo?
Doświadczonych data scientistów i inżynierów uczenia maszynowego pracujących z modelami głębokiego uczenia
Specjalistów wdrażających modele AI w środowiskach produkcyjnych lub na urządzeniach brzegowych
Osób posiadających praktyczną znajomość Pythona i bibliotek do głębokiego uczenia, chcących zwiększyć wydajność modeli
Efekty kształcenia
Uczestnik analizuje i wdraża techniki optymalizacji modeli głębokiego uczenia
Uczestnik projektuje potoki danych zoptymalizowane pod kątem wydajności
Uczestnik stosuje kwantyzację, pruning i mixed-precision training w praktyce
Uczestnik wdraża modele na urządzeniach brzegowych z ograniczonymi zasobami
Uczestnik ocenia efektywność modeli w różnych środowiskach wdrożeniowych
Uczestnik wykorzystuje narzędzia do przyspieszania inferencji modeli
Wymagania
Dobra znajomość języka Python, a w szczególności umiejętność korzystania z zewnętrznych bibliotek
Znajomość podstaw uczenia maszynowego i głębokiego
Doświadczenie w pracy z Pythonem i bibliotekami do głębokiego uczenia (PyTorch, TensorFlow)
Wiedza na temat działania sieci neuronowych oraz procesów treningu modeli
W cenie otrzymasz:
Materiały szkoleniowe
Certyfikat ukończenia szkolenia
W przypadku szkolenia w trybie stacjonarnym zapewnimy Ci również lunch oraz sprzęt niezbędny do nauki
Program szkolenia
Wprowadzenie do optymalizacji modeli
Przegląd potrzeb optymalizacyjnych
Optymalizacja w różnych środowiskach
Optymalizacja potoków danych
Optymalizacja wczytywania danych i augmentacji
Metodologia i narzędzia do optymalizacji potoków
Techniki optymalizacji procesu treningowego
Trening z mieszanymi precyzjami
Akumulacja gradientów
Trening rozproszony
Metody optymalizacji w bibliotece PyTorch
Technologie optymalizujące inferencję modeli
ONNX
NVIDIA TensorRT
NVIDIA Triton
Kompresja modeli po procesie treningowym
Kwantyzacja
Pruning
Formaty modeli
Optymalizacja dużych modeli j ęzykowych (LLMs)
Wprowadzenie do optymalizacji LLM
Kwantyzacja
Przycinanie (pruning)
Efektywne dostrajanie parametrów
Nowoczesne techniki wdrażania LLM
Optymalizacja modeli wizji komputerowej
Przykładowe biblioteki w Python
Przyspieszanie procesu inferencji na przykładzie modeli detekcji
Optymalizacja modeli dla urządzeń brzegowych (edge devices)
Problem optymalizacji na urządzeniach edge
Technologie do wdrażania modeli na urządzeniach brzegowych
Wybrane opinie
Przeczytaj pozytywne opinie pochodzące z ankiet satysfakcji z naszych szkoleń wypełnianych wyłącznie przez ich uczestników po realizacji usługi


