Kurzusleírás

Bevezetés a QLoRA-hoz és a kvantáláshoz

  • A kvantálás áttekintése és szerepe a modell optimalizálásában
  • Bevezetés a QLoRA keretrendszerbe és annak előnyei
  • A QLoRA és a hagyományos finomhangolási módszerek közötti kulcsfontosságú különbségek

Nagy nyelvi modell (LLM) alapjai

  • Bevezetés az LLM-ekbe és architekturájukba
  • A nagy modell finomhangolásának kihívásai skálán
  • Hogyan segít a kvantálás a számítógépes korlátozások leküzdésében az LLM finomhangolása során

QLoRA implementálása LLM finomhangolásához

  • A QLoRA keretrendszer és környezet beállítása
  • Adatbázisok előkészítése a QLoRA finomhangoláshoz
  • Lépésekkel való útmutató az LLM finomhangolásának implementálásához Python és PyTorch/TensorFlow használatával

Finomhangolási teljesítmény optimalizálása a QLoRA-val

  • Hogyan lehet egyensúlyt létrehozni a modell pontossága és a teljesítmény között a kvantálás segítségével
  • Teknikák a számítógépes költségek és az emlékhely használat csökkentésére a finomhangolási folyamatban
  • Stratégiák a finomhangolásra minimális hardverkövetelményekkel

Finomhangolt modell értékelése

  • Hogyan lehet megítélni a finomhangolt modellek hatékonyságát
  • Közös értékelési metrikák nyelvi modellek számára
  • Modell teljesítmény optimalizálása és hibaelhárítás a finomhangolás után

Finomhangolt modell központi telepítése és skálázása

  • A legjobb gyakorlatok kvantált LLM-ek terjesztésére termelési környezetekbe
  • Központi telepítés skálázása valós idejű kérelmek kezelése érdekében
  • Eszközök és keretrendszerek a modell központi telepítéséhez és figyeléséhez

Valós alkalmazások és esettanulmányok

  • Esettanulmány: LLM finomhangolása ügyfélszolgálat és NLP feladatokhoz
  • Példák LLM finomhangolásra különböző iparágakban, mint például az egészségügy, a pénzügyek és az elektronikus kereskedelem
  • Lektierőt a valós alkalmazásokból QLoRA-alapú modell központi telepítése során

Összefoglalás és következő lépések

Követelmények

  • Gépi tanulás alapjainak és neurális hálózatok ismerete
  • Tapasztalat modell finomhangolással és átvitelitannia
  • Nagy nyelvi modell (LLM) és mély tanulási keretrendszerek (pl. PyTorch, TensorFlow) ismerete

Célcsoport

  • Gépi tanulási mérnökök
  • Mesterséges intelligencia fejlesztők
  • Adattudósok
 14 Órák

Résztvevők száma


Ár résztvevőnként

Közelgő kurzusok

Rokon kategóriák