Lépjen kapcsolatba velünk

Kurzusleírás

Bemutatkozás a GPU-gyorsított konténeresítésről

  • A GPU-használat megértése a mélytanulási munkafolyamatokban
  • A Docker szerepe a GPU-alapú terhelések támogatásában
  • Fontos teljesítményigények

NVIDIA Container Toolkit telepítése és beállítása

  • Vezérlők beállítása és CUDA-kompatibilitás biztosítása
  • GPU-hozzáférés érvényesítése konténerekben
  • Futtatókörnyezet beállítása

GPU-képes Docker-képek készítése

  • CUDA alapképek használata
  • MI-keretek csomagolása GPU-kész konténerekbe
  • Függőségek kezelése az edzéshez és következtetéshez

GPU-gyorsított MI-terhelések futtatása

  • Edzési feladatok végrehajtása GPU-kkal
  • Több GPU-s terhelések kezelése
  • GPU-hasznosítás figyelése

Teljesítmény és erőforrás-allokáció optimalizálása

  • GPU-erőforrások korlátozása és izolálása
  • Memória, parti méretek és eszköz-elhelyezés optimalizálása
  • Teljesítményhangolás és diagnosztika

Konténeres következtetés és modell-szolgáltatás

  • Következtetésre kész konténerek építése
  • Nagy terhelésű munkafolyamatok kiszolgálása GPU-kkal
  • Modell-futtatók és API-k integrálása

GPU-terhelések skálázása Dockerrel

  • Stratégiák elosztott GPU-edzéshez
  • Következtetési mikroszolgáltatások skálázása
  • Több konténerből álló MI-rendszer koordinálása

Biztonság és megbízhatóság a GPU-képes konténerekben

  • Biztonságos GPU-hozzáférés biztosítása megosztott környezetben
  • Konténer-képek megerősítése
  • Frissítések, verziók és kompatibilitás kezelése

Összegzés és következő lépések

Követelmények

  • A mélytanulás alapjainak ismerete
  • Tapasztalat a Python nyelvvel és a közönséges MI-keretekkel
  • Alapvető ismeretek a konténeresítés fogalmairól

Célközönség

  • Mélytanulási mérnökök
  • Kutatás-fejlesztési csapatok
  • MI-modell edzők
 21 Órák

Résztvevők száma


Ár per résztvevő

Vélemények (3)

Közelgő kurzusok

Rokon kategóriák