Kurzusleírás

Bevezetés a nagy modellek optimalizálásába

  • A nagy modell architektúrák áttekintése
  • A nagy modellek finomhangolásának kihívásai
  • A költséghatékony optimalizálás jelentősége

Elosztott képzési technikák

  • Bevezetés az adat- és modellpárhuzamosításba
  • Elosztott képzési keretrendszerek: PyTorch és TensorFlow
  • Skálázás több GPU és csomópont között

Modell kvantálás és nyesés

  • A kvantálási technikák megértése
  • A modell méretének csökkentése nyeséssel
  • Kompromisszumok a pontosság és a hatékonyság között

Hardveroptimalizálás

  • A megfelelő hardver kiválasztása finomhangolási feladatokhoz
  • GPU és TPU használatának optimalizálása
  • Speciális gyorsítók használata nagy modellekhez

Hatékony adatkezelés

  • Stratégiák nagy adathalmazok kezelésére
  • Előfeldolgozás és kötegelt feldolgozás a teljesítmény érdekében
  • Adatbővítési technikák

Optimalizált modellek üzembe helyezése

  • Technikák a finomhangolt modellek üzembe helyezésére
  • A modell teljesítményének monitorozása és karbantartása
  • Valós példák optimalizált modellek üzembe helyezésére

Fejlett optimalizálási technikák

  • A alacsony rangú adaptáció (LoRA) feltárása
  • Adapterek használata moduláris finomhangoláshoz
  • A modelloptimalizálás jövőbeli trendjei

Összefoglalás és következő lépések

Követelmények

  • Tapasztalat mély tanulási keretrendszerekben, mint a PyTorch vagy a TensorFlow
  • Ismeret a nagy nyelvi modellekről és azok alkalmazásairól
  • Érdeklődés az elosztott számítási fogalmak iránt

Közönség

  • Gépi tanulás mérnökök
  • Felhő AI szakemberek
 21 Órák

Résztvevők száma


Ár per résztvevő

Közelgő kurzusok

Rokon kategóriák