Szkolenie 2-dniowe
Optymalizacja modeli uczenia głębokiego
w procesie treningu i inferencji
Szkolenie obejmuje techniki usprawniania treningu i inferencji, takie jak kwantyzacja, pruning czy mixed-precision training.
Terminy i cena szkolenia
Sprawdź najbliższe terminy szkolenia i wybierz tryb nauki, który najlepiej odpowiada Twoim preferencjom.
Cena: 2 450 zł netto + 23% VAT (3 013 zł brutto/os)
Tryb wieczorowy
Najbliższy termin: 18.03.2025 r.4 wieczory po 4 godziny (17:30-21:30).
2x wtorek i 2x czwartek.Tryb weekendowy
Najbliższy termin: 15.03.2025 r.Weekend po 8 godzin (9:00-17:00).
Sobota i niedziela.
Cele szkolenia
Zrozumienie znaczenia optymalizacji modeli głębokiego uczenia w różnych środowiskach pracy.
Opanowanie technik takich jak kwantyzacja, pruning i mixed-precision training.
Zapoznanie się z narzędziami ONNX, TensorRT i Triton do przyspieszania inferencji.
Wykorzystanie metod optymalizacji w dużych modelach językowych (LLMs) i modelach wizji komputerowej.
Dostosowanie modeli do wdrażania na urządzeniach brzegowych z ograniczoną mocą obliczeniową.
Dla kogo jest to szkolenie?
Szkolenie jest przeznaczone dla doświadczonych data scientistów i inżynierów uczenia maszynowego, którzy chcą zgłębić techniki optymalizacji modeli w celu zwiększenia ich efektywności. Skierowane jest również do osób pracujących z modelami głębokiego uczenia, które pragną poprawić ich wydajność i skrócić czas inferencji. Szczególnie przydatne będzie dla specjalistów zajmujących się wdrażaniem modeli w środowiskach o ograniczonych zasobach, takich jak urządzenia brzegowe, gdzie kluczowa jest redukcja zapotrzebowania na moc obliczeniową bez utraty jakości predykcji.
Wymagania
Dobra znajomość języka Python, a w szczególności umiejętność korzystania z zewnętrznych bibliotek.
Znajomość podstaw uczenia maszynowego i głębokiego.
Doświadczenie w pracy z Pythonem i bibliotekami do głębokiego uczenia (PyTorch, TensorFlow).
Wiedza na temat działania sieci neuronowych oraz procesów treningu modeli.
Dlaczego warto wziąć udział w szkoleniu?
Szkolenie oferuje praktyczne podejście do optymalizacji modeli w Pythonie z użyciem narzędzi i frameworków, takich jak PyTorch, TensorFlow, ONNX, TensorRT i Triton.
Uczestnicy szkolenia nauczą się optymalizować modele pod kątem redukcji kosztów, jak również wdrożeń na urządzeniach brzegowych.
Specjalny moduł poświęcony jest optymalizacji szeroko stosowanych dużych modeli językowych (LLMs) oraz modeli wizji komputerowej.
Program szkolenia
1. Wprowadzenie do optymalizacji modeli
- ✔️ Przegląd potrzeb optymalizacyjnych
- ✔️ Optymalizacja w różnych środowiskach
2. Optymalizacja potoków danych
- ✔️ Optymalizacja wczytywania danych i augmentacji
- ✔️ Metodologia i narzędzia do optymalizacji potoków
3. Techniki optymalizacji procesu treningowego
- ✔️ Trening z mieszanymi precyzjami
- ✔️ Akumulacja gradientów
- ✔️ Trening rozproszony
- ✔️ Metody optymalizacji w bibliotece PyTorch
4. Technologie optymalizujące inferencję modeli
- ✔️ ONNX
- ✔️ NVIDIA TensorRT
- ✔️ NVIDIA Triton
5. Kompresja modeli po procesie treningowym
- ✔️ Kwantyzacja
- ✔️ Pruning
- ✔️ Formaty modeli
6. Optymalizacja dużych modeli językowych (LLMs)
- ✔️ Wprowadzenie do optymalizacji LLM
- ✔️ Kwantyzacja
- ✔️ Przycinanie (pruning)
- ✔️ Efektywne dostrajanie parametrów
- ✔️ Nowoczesne techniki wdrażania LLM
7. Optymalizacja modeli wizji komputerowej
- ✔️ Przykładowe biblioteki w Python
- ✔️ Przyspieszanie procesu inferencji na przykładzie modeli detekcji
8. Optymalizacja modeli dla urządzeń brzegowych (edge devices)
- ✔️ Problem optymalizacji na urządzeniach edge
- ✔️ Technologie do wdrażania modeli na urządzeniach brzegowych