Kurzusleírás
Bevezetés a GPU-gyorsított konténerizációba
- A GPU-használat megértése a mélytanulási munkafolyamatokban
- Hogyan támogatja a Docker a GPU-alapú munkaterheléseket
- Kulcsfontosságú teljesítménybeli szempontok
Az NVIDIA Container Toolkit telepítése és konfigurálása
- Illesztőprogramok és CUDA-kompatibilitás beállítása
- GPU-hozzáférés ellenőrzése a konténereken belül
- A futásidejű környezet konfigurálása
GPU-támogatású Docker-lemezképek összeállítása
- CUDA-alaplemezképek használata
- MI-keretrendszerek csomagolása GPU-kész konténerekbe
- Függőségek kezelése tanításhoz és következtetéshez
GPU-gyorsított MI-munkaterhelések futtatása
- Tanítási feladatok végrehajtása GPU-k használatával
- Több GPU-t igénylő munkaterhelések kezelése
- GPU-kihasználtság figyelése
Teljesítmény és erőforrás-kiosztás optimalizálása
- GPU-erőforrások korlátozása és elkülönítése
- Memória, kötegméretek és eszköz-elhelyezés optimalizálása
- Teljesítményhangolás és diagnosztika
Konténerizált következtetés és modellkiszolgálás
- Következtetésre kész konténerek összeállítása
- Nagy terhelésű munkaterhelések kiszolgálása GPU-kon
- Modellfuttatók és API-k integrálása
GPU-munkaterhelések skálázása Dockerrel
- Stratégiák elosztott GPU-tanításhoz
- Következtetési mikroszolgáltatások skálázása
- Több konténerből álló MI-rendszerek összehangolása
Biztonság és megbízhatóság GPU-támogatású konténerek esetén
- Biztonságos GPU-hozzáférés biztosítása megosztott környezetekben
- Konténerlemezképek megerősítése
- Frissítések, verziók és kompatibilitás kezelése
Összefoglalás és következő lépések
Követelmények
- A mélytanulás alapjainak ismerete
- Tapasztalat Pythonnal és elterjedt MI-keretrendszerekkel
- Alapvető konténerizációs fogalmak ismerete
Célközönség
- Mélytanulási mérnökök
- Kutatási és fejlesztési csapatok
- MI-modell-trénerek
Vélemények (2)
Ahogy korábban is mondtam, egy hozzám hasonló ember számára (nincs tapasztalat) ez kaput nyitott a funkciók és műveletek megértéséhez ezekkel a programokkal/eszközökkel stb. kapcsolatban.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurzus - Docker and Kubernetes
Gépi fordítás
többszintű, strukturált tanfolyami program.
Bert Paelinckx - Cube SoftwareSolutions
Kurzus - Introduction to Docker
Gépi fordítás