Kurzusleírás

Bevezetés a QLoRA és a kvantálásba

  • A kvantálás áttekintése és szerepe a modelloptimalizálásban
  • A QLoRA keretrendszer bemutatása és előnyei
  • A QLoRA és a hagyományos finomhangolási módszerek közötti kulcsfontosságú különbségek

A nagy nyelvi modellek (LLM) alapjai

  • Bevezetés az LLM-ekbe és azok architektúrájába
  • A nagy modellek skálázott finomhangolásának kihívásai
  • Hogyan segít a kvantálás a számítási korlátok leküzdésében az LLM finomhangolásában

A QLoRA megvalósítása LLM finomhangolásához

  • A QLoRA keretrendszer és környezet beállítása
  • Adatkészletek előkészítése a QLoRA finomhangoláshoz
  • Részletes útmutató a QLoRA megvalósításához LLM-eken Python és PyTorch/TensorFlow használatával

A finomhangolás teljesítményének optimalizálása QLoRA-val

  • Hogyan egyensúlyozzuk a modell pontosságát és teljesítményét a kvantálással
  • Technikák a számítási költségek és memóriahasználat csökkentésére finomhangolás közben
  • Stratégiák a finomhangoláshoz minimális hardverigények mellett

A finomhangolt modellek értékelése

  • Hogyan értékeljük a finomhangolt modellek hatékonyságát
  • Gyakori értékelési metrikák nyelvi modellekhez
  • A modell teljesítményének optimalizálása a finomhangolás után és hibaelhárítás

A finomhangolt modellek üzembe helyezése és skálázása

  • Ajánlott eljárások a kvantált LLM-ek termelési környezetbe történő üzembe helyezéséhez
  • Az üzembe helyezés skálázása valós idejű kérések kezeléséhez
  • Eszközök és keretrendszerek a modell üzembe helyezéséhez és monitorozásához

Valós használati esetek és esettanulmányok

  • Esettanulmány: LLM finomhangolása ügyfélszolgálati és NLP feladatokhoz
  • Példák LLM finomhangolására különböző iparágakban, mint az egészségügy, pénzügy és e-kereskedelem
  • Tapasztalatok a QLoRA-alapú modellek valós üzembe helyezéséből

Összefoglalás és következő lépések

Követelmények

  • A gépi tanulás alapjainak és neurális hálózatok ismerete
  • Tapasztalat modell finomhangolásban és átviteli tanulásban
  • Ismeret a nagy nyelvi modellek (LLM) és a mélytanulási keretrendszerek (pl. PyTorch, TensorFlow) terén

Közönség

  • Gépi tanulási mérnökök
  • AI fejlesztők
  • Adattudósok
 14 Órák

Résztvevők száma


Ár per résztvevő

Közelgő kurzusok

Rokon kategóriák