Köszönjük, hogy elküldte érdeklődését! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Köszönjük, hogy elküldte foglalását! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Kurzusleírás
Bevezetés
- A mélytanulás skálázási kihívásainak áttekintése
- A DeepSpeed és funkcióinak áttekintése
- A DeepSpeed összehasonlítása más elosztott mélytanulási könyvtárakkal
Bevezetés
- A fejlesztői környezet beállítása
- A PyTorch és a DeepSpeed telepítése
- A DeepSpeed konfigurálása elosztott képzéshez
DeepSpeed optimalizációs funkciók
- A DeepSpeed képzési folyamata
- ZeRO (memóriaoptimalizálás)
- Aktivációs ellenőrzőpontok
- Gradiens ellenőrzőpontok
- Csővezeték-párhuzamosítás
Modellek skálázása a DeepSpeed-del
- Alapszintű skálázás a DeepSpeed segítségével
- Haladó skálázási technikák
- Teljesítményfontosságú szempontok és ajánlott eljárások
- Hibakeresési és hibaelhárítási technikák
Haladó DeepSpeed témák
- Haladó optimalizációs technikák
- A DeepSpeed használata vegyes pontosságú képzésben
- A DeepSpeed különböző hardvereken (pl. GPU, TPU)
- A DeepSpeed több képzési csomóponton
A DeepSpeed integrálása a PyTorch-val
- A DeepSpeed integrálása PyTorch munkafolyamatokba
- A DeepSpeed használata a PyTorch Lightning-nal
Hibaelhárítás
- Gyakori DeepSpeed hibák hibakeresése
- Monitorozás és naplózás
Összefoglalás és következő lépések
- A kulcsfogalmak és funkciók összefoglalása
- Ajánlott eljárások a DeepSpeed használatához éles környezetben
- További források a DeepSpeed-ről való tanuláshoz
Követelmények
- Középszintű ismeretek a mélytanulás alapelveiről
- Tapasztalat a PyTorch vagy hasonló mélytanulási keretrendszerek használatában
- Ismeret a Python programozásban
Célközönség
- Adattudósok
- Gépi tanulási mérnökök
- Fejlesztők
21 Órák
Vélemények (2)
A szervezet, a javasolt napirenddel együttműködve, a képző széles körű tudása ebben a témában
Ali Kattan - TWPI
Kurzus - Natural Language Processing with TensorFlow
Gépi fordítás
Very updated approach or CPI (tensor flow, era, learn) to do machine learning.
Paul Lee
Kurzus - TensorFlow for Image Recognition
Gépi fordítás