Lépjen kapcsolatba velünk

Kurzusleírás

Bevezetés az Open-Source LLM-ekbe

  • Mik azok a nyílt súlyú modellek és miért fontosak
  • Áttekintés a LLaMA, Mistral, Qwen és egyéb közösségi modellekről
  • Használati esetek privát, helyszíni vagy biztonságos üzembe helyezésekhez

Környezet beállítása és eszközök

  • A Transformers, Datasets és PEFT könyvtárak telepítése és konfigurálása
  • Megfelelő hardver kiválasztása a finomhangoláshoz
  • Előre betanított modellek betöltése a Hugging Face-ről vagy más tárolókból

Adatfeldolgozás és előkészítés

  • Adatkészlet formátumok (utasítás alapú finomhangolás, csevegési adatok, csak szöveg)
  • Tokenizálás és szekvencia kezelés
  • Egyéni adatkészletek és adatbetöltők létrehozása

Finomhangolási technikák

  • Standard teljes finomhangolás vs. paraméter-hatékony módszerek
  • LoRA és QLoRA alkalmazása hatékony finomhangoláshoz
  • Trainer API használata gyors kísérletezéshez

Modell értékelése és optimalizálása

  • Finomhangolt modellek értékelése generálási és pontossági mutatókkal
  • Túlilleszkedés, általánosítás és validációs halmazok kezelése
  • Teljesítmény finomhangolási tippek és naplózás

Üzembe helyezés és privát használat

  • Modellek mentése és betöltése következtetéshez
  • Finomhangolt modellek üzembe helyezése biztonságos vállalati környezetekben
  • Helyszíni vs. felhő alapú üzembe helyezési stratégiák

Esettanulmányok és használati esetek

  • Példák a LLaMA, Mistral és Qwen vállalati használatára
  • Többnyelvű és specifikus területekre vonatkozó finomhangolás kezelése
  • Megbeszélés: Kompromisszumok a nyílt és zárt modellek között

Összefoglalás és következő lépések

Követelmények

  • A nagy nyelvi modellek (LLM) és azok architektúrájának ismerete
  • Tapasztalat Pythonban és PyTorch-ban
  • Alapfokú ismeretek a Hugging Face ökoszisztémáról

Közönség

  • ML szakemberek
  • AI fejlesztők
 14 Órák

Résztvevők száma


Ár per résztvevő

Közelgő kurzusok

Rokon kategóriák