Kurzusleírás
Gépi tanulási modellek felkészítése üzembe helyezésre
- Modellek csomagolása Dockerrel
- Modellek exportálása TensorFlow és PyTorch segítségével
- Verziókezelés és tárolási szempontok
Modellek kiszolgálása Kubernetesen
- A következtetési szerverek áttekintése
- TensorFlow Serving és TorchServe üzembe helyezése
- Modell végpontok beállítása
Következtetési optimalizációs technikák
- Kötegelési stratégiák
- Egyidejű kérések kezelése
- Késleltetés és átviteli sebesség finomhangolása
ML munkaterhelések automatikus skálázása
- Horizontális Pod Autoscaler (HPA)
- Vertikális Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
GPU kiépítés és erőforrás-kezelés
- GPU csomópontok konfigurálása
- NVIDIA eszköz bővítmény áttekintése
- Erőforrás-kérelmek és korlátok ML munkaterhelésekhez
Modell bevezetési és kiadási stratégiák
- Blue/green üzembe helyezés
- Canary bevezetési minták
- A/B tesztelés modellértékeléshez
Monitorozás és megfigyelhetőség ML-hez éles környezetben
- Metrikák következtetési munkaterhelésekhez
- Naplózási és nyomkövetési gyakorlatok
- Irányítópultok és riasztások
Biztonsági és megbízhatósági szempontok
- Modell végpontok biztonságossá tétele
- Hálózati házirendek és hozzáférés-vezérlés
- Magas rendelkezésre állás biztosítása
Összefoglalás és következő lépések
Követelmények
- A konténerbe zárt alkalmazások munkafolyamatainak ismerete
- Tapasztalat Python-alapú gépi tanulási modellek terén
- Alapvető ismeretek a Kubernetesről
Közönség
- ML mérnökök
- DevOps mérnökök
- Platformfejlesztő csapatok
Vélemények (5)
Interaktivitás, nem csak átfutás a slajdokon egész nap
Emilien Bavay - IRIS SA
Kurzus - Kubernetes Advanced
Gépi fordítás
Ő türelmes volt és értette, hogy hátra eshetünk.
Albertina - REGNOLOGY ROMANIA S.R.L.
Kurzus - Deploying Kubernetes Applications with Helm
Gépi fordítás
A képzés gyakorlatiabb volt
Siphokazi Biyana - Vodacom SA
Kurzus - Kubernetes on AWS
Gépi fordítás
Kubernetes tanulása.
Felix Bautista - SGS GULF LIMITED ROHQ
Kurzus - Kubernetes on Azure (AKS)
Gépi fordítás
Jól alapozta a Docker és a Kubernetes használatát.
Stephen Dowdeswell - Global Knowledge Networks UK
Kurzus - Docker (introducing Kubernetes)
Gépi fordítás