Kurzusleírás

Bevezetés az üzembe helyezésbe

  • A finomhangolt modellek üzembe helyezésének fő kihívásai
  • A fejlesztési és az éles környezetek közötti különbségek
  • Eszközök és platformok a modellek üzembe helyezéséhez

Modellek előkészítése üzembe helyezésre

  • Modellek exportálása szabványos formátumokban (ONNX, TensorFlow SavedModel stb.)
  • Modellek optimalizálása késleltetés és átviteli sebesség szempontjából
  • Modellek tesztelése szélsőséges esetekben és valós adatokon

Konténeresítés a modellek üzembe helyezéséhez

  • Bevezetés a Dockerbe
  • Docker image-ek létrehozása gépi tanulási modellekhez
  • Ajánlott eljárások a konténer biztonságához és hatékonyságához

Üzemelő példányok skálázása Kubernetes-szel

  • Bevezetés a Kubernetesbe AI munkaterhelésekhez
  • Kubernetes klaszterek beállítása a modellek hosztolásához
  • Terheléselosztás és vízszintes skálázás

Modellek monitorozása és karbantartása

  • Monitorozás implementálása Prometheus és Grafana segítségével
  • Automatizált naplózás hibák követéséhez és teljesítményhez
  • Újratanító folyamatok a modellek elcsúszásához és frissítéseihez

Biztonság biztosítása éles környezetben

  • API-k biztosítása a modellek következtetéséhez
  • Hitelesítési és engedélyezési mechanizmusok
  • Adatvédelemmel kapcsolatos aggodalmak kezelése

Esettanulmányok és gyakorlati laborok

  • Hangulatelemzési modell üzembe helyezése
  • Gépi fordítási szolgáltatás skálázása
  • Monitorozás implementálása képbesorolási modellekhez

Összefoglalás és következő lépések

Követelmények

  • Erős alapértelmezés a gépi tanulási munkafolyamatokban
  • Tapasztalat a gépi tanulási modellek finomhangolásában
  • Ismeret a DevOps vagy MLOps elveiben

Célközönség

  • DevOps mérnökök
  • MLOps gyakorlók
  • AI üzembe helyezési szakértők
 21 Órák

Résztvevők száma


Ár per résztvevő

Vélemények (1)

Közelgő kurzusok

Rokon kategóriák