Lépjen kapcsolatba velünk

Kurzusleírás

Gépi tanulási modellek előkészítése üzembe helyezéshez

  • Modellek csomagolása Dockerrel
  • Modellek exportálása TensorFlowból és PyTorchból
  • Verziókezelés és tárolási szempontok

Modellek szolgáltatása Kubernetesen

  • Következtetési szerverek áttekintése
  • TensorFlow Serving és TorchServe üzembe helyezése
  • Modell végpontok beállítása

Következtetési optimalizációs technikák

  • Batch stratégiák
  • Egyidejű kérések kezelése
  • Késleltetés és átviteli sebesség finomhangolása

Gépi tanulási munkaterhelések automatikus skálázása

  • Horizontal Pod Autoscaler (HPA)
  • Vertical Pod Autoscaler (VPA)
  • Kubernetes Event-Driven Autoscaling (KEDA)

GPU kiépítés és erőforrás-kezelés

  • GPU csomópontok konfigurálása
  • NVIDIA eszköz bővítmény áttekintése
  • Erőforrás-kérelmek és korlátok gépi tanulási munkaterhelésekhez

Modell bevezetési és kiadási stratégiák

  • Blue/green bevezetések
  • Canary bevezetési minták
  • A/B tesztelés modellértékeléshez

Figyelés és megfigyelhetőség gépi tanulás éles környezetben

  • Metrikák következtetési munkaterhelésekhez
  • Naplózás és nyomkövetési gyakorlatok
  • Irányítópultok és riasztások

Biztonsági és megbízhatósági szempontok

  • Modell végpontok biztonságossá tétele
  • Hálózati szabályzatok és hozzáférés-vezérlés
  • Magas rendelkezésre állás biztosítása

Összefoglalás és következő lépések

Követelmények

  • Konténeres alkalmazások munkafolyamatainak ismerete
  • Tapasztalat Python alapú gépi tanulási modellekkel
  • A Kubernetes alapjainak ismerete

Célközönség

  • Gépi tanulási mérnökök
  • DevOps mérnökök
  • Platformfejlesztő csapatok
 14 Órák

Résztvevők száma


Ár per résztvevő

Vélemények (3)

Közelgő kurzusok

Rokon kategóriák