Kurzusleírás

Bevezetés a nagyméretű modellek optimalizálásához

  • A nagy modellarchitektúrák áttekintése
  • Kihívások a nagy modellek finomhangolásában
  • A költséghatékony optimalizálás fontossága

Elosztott képzési technikák

  • Bevezetés az adat- és modellpárhuzamba
  • Az elosztott képzés keretei: PyTorch és TensorFlow
  • Méretezés több GPU és csomópont között

Modell kvantálás és metszés

  • A kvantálási technikák megértése
  • Metszés alkalmazása a modell méretének csökkentése érdekében
  • Kompromisszumok a pontosság és a hatékonyság között

Hardver optimalizálás

  • A megfelelő hardver kiválasztása a finomhangolási feladatokhoz
  • Optimalizálás GPU és TPU kihasználtság
  • Speciális gyorsítók használata nagy modellekhez

Hatékony Data Management

  • Stratégiák nagy adathalmazok kezelésére
  • Előfeldolgozás és kötegelés a teljesítmény érdekében
  • Adatkiegészítési technikák

Optimalizált modellek telepítése

  • A finomhangolt modellek telepítési technikái
  • A modell teljesítményének felügyelete és karbantartása
  • Valós példák az optimalizált modelltelepítésre

Speciális optimalizálási technikák

  • Az alacsony szintű adaptáció (LoRA) felfedezése
  • Adapterek használata a moduláris finomhangoláshoz
  • A modelloptimalizálás jövőbeli trendjei

Összegzés és a következő lépések

Követelmények

  • Tapasztalat mély tanulási keretrendszerekkel, például PyTorch vagy TensorFlow
  • Nagy nyelvi modellek és alkalmazásaik ismerete
  • Az elosztott számítástechnikai fogalmak megértése

Közönség

  • Gépi tanulási mérnökök
  • Cloud AI szakértők
 21 Órák

Résztvevők száma


Ár résztvevőnként

Közelgő kurzusok

Rokon kategóriák