Kurzusleírás
A hibrid AI üzembe helyezés alapjai
- A hibrid, felhő és edge üzembe helyezési modellek megértése
- AI-munkaterhelések jellemzői és infrastrukturális korlátai
- A megfelelő üzembe helyezési topológia kiválasztása
AI-munkaterhelések konténerizálása Dockerrel
- GPU- és CPU-alapú következtetési konténerek építése
- Biztonságos image-ek és regisztrációs adatbázisok kezelése
- Reprodukálható környezetek megvalósítása AI számára
AI-szolgáltatások üzembe helyezése felhőkörnyezetekben
- Következtetés futtatása AWS-en, Azure-on és GCP-n Dockerrel
- Felhő számítási kapacitás biztosítása modellkiszolgáláshoz
- Felhőalapú AI-végpontok biztonságossá tétele
Edge és helyszíni üzembe helyezési technikák
- AI futtatása IoT-eszközökön, átjárókon és mikroszervereken
- Könnyűsúlyú futtatókörnyezetek edge környezetekhez
- Időszakos kapcsolódás és helyi adatmegőrzés kezelése
Hibrid hálózatépítés és biztonságos kapcsolódás
- Biztonságos alagútkapcsolat edge és felhő között
- Tanúsítványok, titkos kulcsok és tokenalapú hozzáférés
- Teljesítményhangolás alacsony késleltetésű következtetéshez
Elosztott AI-üzembe helyezések orkesztrálása
- K3s, K8s vagy könnyűsúlyú orkesztráció használata hibrid rendszerekhez
- Szolgáltatásfelderítés és munkaterhelés-ütemezés
- Több helyszínt átfogó bevezetési stratégiák automatizálása
Monitorozás és megfigyelhetőség különböző környezetekben
- A következtetési teljesítmény nyomon követése különböző helyszíneken
- Központosított naplózás hibrid AI-rendszerekhez
- Hibaészlelés és automatizált helyreállítás
Hibrid AI-rendszerek skálázása és optimalizálása
- Edge klaszterek és felhőcsomópontok skálázása
- Sávszélesség-használat és gyorsítótárazás optimalizálása
- Számítási terhelés kiegyensúlyozása felhő és edge között
Összefoglalás és következő lépések
Követelmények
- A konténerizációs koncepciók ismerete
- Tapasztalat Linux parancssori műveletekben
- Az AI-modell üzembe helyezési munkafolyamatainak ismerete
Célközönség
- Infrastruktúra-architektek
- Site Reliability Engineerek (SRE-k)
- Edge és IoT fejlesztők
Vélemények (2)
Ahogy korábban is mondtam, egy hozzám hasonló ember számára (nincs tapasztalat) ez kaput nyitott a funkciók és műveletek megértéséhez ezekkel a programokkal/eszközökkel stb. kapcsolatban.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurzus - Docker and Kubernetes
Gépi fordítás
többszintű, strukturált tanfolyami program.
Bert Paelinckx - Cube SoftwareSolutions
Kurzus - Introduction to Docker
Gépi fordítás